Le terme « Shadow GPT » désigne l’utilisation de ChatGPT ou d’autres IA génératives dans un contexte professionnel sans approbation préalable de sa hiérarchie. Une étude montre que 30% des salariés sont dans cette situation, ce qui n’est pas sans poser des problèmes de sécurité. En utilisant ce type d’outils, les salariés transmettent involontairement à des tiers des données potentiellement sensibles.
Contactez l’institut de sondage IntoTheMinds
Shadow GPT : 7 statistiques à retenir
- 71 % des Français connaissent les IA génératives comme ChatGPT d’OpenAI et Bing de Microsoft.
- 44 % des répondants utilisent ces IA à la fois dans un cadre personnel et professionnel.
- 68 % des utilisateurs d’IA générative au sein de l’entreprise n’ont pas obtenu l’approbation de leur supérieur hiérarchique.
- 50% des entreprises américaines déclarent mettre à jour leur règlement interne pour encadrer l’utilisation de ChatGPT et mettre fin au Shadow GPT
- 70 % des personnes interrogées dans une autre étude de Microsoft déclarent qu’elles délégueraient volontiers leurs tâches répétitives à l’IA.
- 45 % des jeunes de 18 à 24 ans déclarent utiliser les IA, contre seulement 18 % des personnes de plus de 35 ans.
- 72 % des Français estiment ne pas avoir les connaissances suffisantes pour utiliser les IA génératives.
Introduction
Le terme Shadow GPT fait écho à celui de Shadow IT qui désigne l’utilisation de logiciels non approuvés préalablement par le département IT de l’entreprise. Les salariés qui pratiquent le Shadow GPT utilisent donc des outils d’IA générative comme ChatGPT à des fins professionnelles sans accord préalable de leur entreprise. Des études récentes montrent que cette pratique est en fait largement plus répandue que ce que l’on pourrait imaginer mais elle fait peser des risques sur les données confidentielles de l’entreprise.
Shadow GPT : près d’1/3 des salariés actuellement concernés
Une étude d’avril 2023 révèle que 71 % des Français connaissent les IA génératives, comme ChatGPT d’OpenAI et Bing de Microsoft (dont le mode « création » se base sur GPT4). L’étude a également montré que 44 % des répondants utilisent ces IA dans un cadre personnel et professionnel. Parmi eux, 68 % d’entre eux le font sans en informer leurs supérieurs. En d’autres termes, ce sont près de 30% des salariés français qui utilisent une IA générative sans autorisation préalable de leur manager.
Dans une autre étude menée par Microsoft, 70 % des personnes interrogées déclaraient être d’accord pour déléguer leurs tâches répétitives à l’IA, ce qui pourrait faire gagner jusqu’à deux jours de travail.
Les risques du Shadow GPT
Nous avons déjà évoqué les risques de ChatGPT. Il s’agit pour faire simple de risques liés à des fuites de données confidentielles. Ces risques sont inhérents à tous les services gratuits sur Internet. S’ils sont gratuits c’est que ce sont vos données qui servent de monnaie d’échange.
Statoil s’était fait avoir dès 2017 avec l’utilisation de Deepl (qui utilise vos données pour entraîner ses algorithmes, voir ci-dessous), et en 2023 c’est Samsung qui a été pris au piège de ChatGPT. Ses employés ont utilisé ChatGPT à 3 reprises et ont transmis de fait à OpenAI des données strictement confidentielles. Ces dernières concernent notamment le code source de ses puces électroniques.
Ces risques ont conduit certaines sociétés à bannir l’utilisation de ChatGPT. A commencer par Samsung qui va mettre un outil interne à disposition, mais également JPMorgan Chase, Amazon, Verizon et Accenture. Le point commun de toutes ces entreprises est qu’elles travaillent avec une grande quantité de données propriétaires dont elles tirent un avantage concurrentiel. L’utilisation de ChatGPT, et de manière générale de tous les outils algorithmiques proposant une version gratuite, est le transfert des données de l’utilisateur à des fins d’entraînement. Si l’échange de bons procédés est compréhensible (un service gratuit contre des données), peu d’utilisateurs sont conscients de ce transfert. Dans le cas de ChatGPT, l’absence de consentement a même conduit le gouvernement italien à bannir ChatGPT du territoire. Cette décision a été violente, soudaine, mais a eu le mérite de mettre en lumière toutes les failles d’OpenAI.
Une attention particulière pour les collaborateurs les plus jeunes
L’étude montre un fossé générationnel dans l’adoption des IA, avec 45 % des 18-24 ans qui les utilisent, contre seulement 18 % des plus de 35 ans. On ne s’étonnera que modérément du fait que 72 % des Français estiment ne pas avoir suffisamment de connaissances pour utiliser ces technologies.
Ce fossé doit absolument faire prendre conscience AUX entreprises que les risques ne sont pas distribués également parmi tous leurs collaborateurs. Certains sont plus « à risque » que d’autres, et des efforts de sensibilisation devront donc être faits de manière différenciée en fonction de la cible.
La plupart des entreprises ne mesurent pas les risques
Car c’est bien là qu’est le problème : le manque d’information et de transparence. Le ShadowGPT ne part pas à la base d’une mauvaise intention. Les employés sont sans doute curieux d’expérimenter ce nouvel outil et c’est tout à leur honneur. La part d’expérimentation est essentielle pour en comprendre l’utilité et, comme l’expliquait Ethan Mollick, chercheur au MIT, il faut au moins 4 heures de travail sur ces outils pour commencer à le comprendre.
Les entreprises ont quant à elles été prises par surprise. L’adoption de ChatGPT par leurs collaborateurs a été si soudaine, et le sujet si nouveau, qu’elles n’ont pas pu s’en soucier suffisamment tôt. D’ailleurs, près de 50% des sociétés américaines interrogées dans un sondage de mars 2023 étaient occupées à revoir leur règlement interne pour tenir compte du Shadow GPT.
Mais à côté des grandes entreprises, il y a toutes celles pour lesquelles ChatGPT restera encore longtemps un mystère … jusqu’à ce que leurs secrets d’affaire soient dans la nature. Rappelons-nous que 96% des entreprises sont des PME’s et que leur niveau de maturité digitale est loin d’être exemplaire. Les chantiers sont donc multiples pour éduquer les employés aux bénéfices de l’IA mais également à ses limites.
Publié dans Innovation.
