L'ampleur de cette prise de contrôle est telle que 59 % des cadres dirigeants en France expriment aujourd'hui de vives inquiétudes quant aux risques de sécurité potentiels qui pourraient mettre en péril les données sensibles de l'entreprise et entraîner une perte totale de contrôle des fonctions essentielles de l'entreprise.

Tandis que récemment encore, l’IA générative était considérée comme une simple innovation technologique, elle s'est rapidement transformée en un outil capable d'automatiser et d'exécuter un large éventail de tâches. Cependant, l'étude suggère que les dirigeants ont déjà perdu le contrôle du déploiement et de la supervision des technologies d’IA génératives, ainsi que des objectifs visés par son utilisation.

Les résultats de l’enquête dévoilent que seulement un quart (24 %) des répondants ont envisagés d’établir des règles concernant l'utilisation de l’IA générative, bien qu’ils soient une majorité écrasante (91 %) à déclarer avoir besoin de mieux comprendre comment les données internes sont utilisées par les employés pour se protéger contre les risques de sécurité critiques ou les fuites de données.

« L’IA générative offre aux entreprises des avantages considérables en termes de productivité, mais les résultats de notre enquête révèlent que si les dirigeants reconnaissent clairement l’importance que cette technologie a pris dans leurs organisations, l'étendue de son utilisation et sa finalité restent floues et incertaines. Considérant que l'évolution de l’IA générative ne montre actuellement aucun signe de ralentissement, plus ces applications continueront de fonctionner sans contrôle, plus il sera difficile de les maîtriser et de garantir qu’elles assurent leurs fonctions concernant les principales activités de l'entreprise telles que les ressources humaines, la comptabilité, le service marketing ou encore le service informatique », commente David Emm, chercheur principal en sécurité chez Kaspersky.

Pour fonctionner efficacement, l’IA générative s'appuie sur l’apprentissage continu grâce aux données saisies : toute donnée saisie dans une application par un employé est immédiatement transmise à l'extérieur de l'organisation, ce qui peut constituer une divulgation involontaire de données. Les préoccupations des conseils d'administration quant à la manière dont cela pourrait entraîner une perte de données sont réelles, avec trois cadres supérieurs sur cinq (59 %) exprimant de sérieuses appréhensions quant à la possibilité que des employés divulguent des données sensibles de l'entreprise lorsqu'ils saisissent des informations dans les plateformes basées sur l’IA générative.

Malgré ces inquiétudes, les résultats révèlent que presque la moitié des répondants français (43 %) ont des projets concernant l’exploitation de l’IA générative pour automatiser les tâches répétitives que leurs employés effectuent au quotidien. Ils sont également 43 % à avoir signalé leur intention d'intégrer l’IA générative dans leurs propres routines afin d'améliorer leur productivité. Plus étonnant, malgré les risques évidents que cela comporte pour la sécurité, plus d’un cadre sur cinq (18 %) a tout de même déclaré être enclins à automatiser les services informatiques et de cybersécurité à l'aide des outils d’IA générative. Ce sont d’ailleurs les départements que les répondants sont les plus susceptibles d’automatiser.

David Emm poursuit : « On pourrait supposer que la perspective d'une fuite de données sensibles et d'une perte de contrôle d'unités commerciales critiques pourrait inciter les cadres dirigeants à peser le pour et le contre du recours à l’IA générative, mais nos résultats indiquent que près d'un quart des patrons envisagent déjà de déléguer certaines de leurs fonctions les plus importantes à l'IA. Il est impératif d’acquérir une compréhension approfondie de la gestion des données et de mettre en œuvre des politiques robustes avant toute intégration de l’IA générative dans l'environnement de l'entreprise ».

Méthodologie : l'étude GenAI a été réalisée par Censuswide entre le 25 septembre et le 2 octobre 2023, auprès de 1863 cadres supérieurs au Royaume-Uni, en France, en Allemagne, en Espagne, en Italie, en Roumanie, aux Pays-Bas et en Grèce, avec un effectif de 251 répondants en France.