Sur fond de programmes de formation défaillants, les projets d'IA continueront de constituer un « champ de mines éthique » pour les entreprises de toute la France. Car la fiabilité des projets technologiques repose sur la qualité des informations, mais si des employés non formés fournissent des données erronées, cela produirait une IA incohérente, involontairement biaisée et inutilisable.

D’après une nouvelle étude menée par Alteryx, en partenariat avec YouGov, auprès de 1000 responsables français de la data dans de grandes entreprises : 38 % des entreprises ne proposent une formation qu'aux data scientists et analystes déjà en poste (21 %), laissant le reste des employés travailler dans un « gouffre éthique ».

Autres principaux résultats : 47% des employés français manipulant la data considèrent que l'éthique des données n'est pas pertinente pour leur fonction, La formation aux données n'est accessible qu'aux spécialistes déjà en poste, tels que les data scientists (38 %) et analystes (21 %). Avec autant de travailleurs non formés aux données, les entreprises françaises risquent de faire face à un véritable chaos éthique, Un dirigeant français sur cinq (21 %) estime que la solution à ce challenge incombe à quelqu'un d'autre, faisant ainsi perdurer la situation.

Les stratégies d'IA menacées par la Dirty Data

De plus en plus d’employés opèrent dans l’obscurité par manque de formation sur l’éthique, entraînant ainsi une surcharge pour les équipes de Data Science, déjà à court de ressources.

20 % des data scientists consacrent au moins 30 heures par semaine au traitement, au regroupement et à la modélisation des données de base, évaluant leurs compétences en matière de données à un niveau avancé. Ce qui atteste que ces experts de la data se retrouvent « coincés » dans une spirale d’activités opérationnelles chronophages, alors que ces dernières pourraient être réalisées par d’autres employés.

De plus, 58 % de ces data scientists affirment que leur entreprise n'exploite pas pleinement les données dont elle dispose, et 58 % déclarent que les employés ne possèdent pas les compétences en matière de données nécessaires pour relever les défis économiques actuels. 71 % d’entre eux affirment que la formation aux données devrait être étendue à l’ensemble des travailleurs du secteur pour faire progresser leur carrière.

« L’évolution digitale et culturelle, qui est plus que nécessaire aujourd’hui, est au point mort car les data scientists restent isolés dans leur tour d’ivoire », commente Alan Jacobson, Chief Data and Analytic Officer chez Alteryx. « Nous sommes dans une impasse de l’IA. Alors que la data est devenue le langage commun des entreprises, peu d’entre elles proposent des formations à la donnée pour en tirer un quelconque avantage ».

« Le manque de compétences fondamentales en matière de data constitue un obstacle majeur. S'il n’est pas résolu, les biais de données involontaires peuvent conduire à des pratiques discriminatoires, ainsi qu'à des modèles d'IA inexacts, incorrects et incohérents », ajoute-t-il.

L'absence de culture des données : les biais derrière les méthodes de formation informelles

Pour éviter de perpétuer involontairement des biais et aggraver les défis déjà existants, les employés français se tournent vers des canaux informels pour compléter leur propre apprentissage. Seuls 36 % d’entre eux déclarent avoir accès à des programmes de formation officiels, 19 % ont recours au mentorat informel auprès de collègues et 11 % se réfèrent à des sources tierces informelles.

Aussi, un tiers des travailleurs français (32 %) confirme aujourd'hui que le travail à distance a réduit de manière significative la formation formelle au sein de leur entreprise, avec un quart (25 %) d’entre eux notant un accès plus restreint aux initiatives de développement des compétences.

Autre risque pour les entreprises françaises : 29 % des employés déclarent que l'une des principales motivations pour se perfectionner est la possibilité de trouver un meilleur poste au moment de la recherche d'un nouvel emploi. 21 % des personnes sondées dans l'industrie manufacturière se disent prêtes à consacrer au moins six heures par semaine à la formation continue, contre 19 % dans l'informatique et 17 % dans la recherche et le développement.

« Les projets de transformation et d’IA ne portent pas que sur la technologie, comme peuvent le penser certains dirigeants, et la technologie n’est pas qu'un simple outil au service de l'ingéniosité humaine », déclare Raphaël Savy, Vice-Président Sales, France et Europe du Sud chez Alteryx. « Le fait de manquer de formation cohérente et, par conséquent, de connaissances standardisées représente un défi majeur pour les futurs projets technologiques de la France, en particulier pour les nouvelles stratégies d'IA ».

« La manipulation de la donnée est déjà en place, sans que la formation soit forcément accessible. Le challenge est de garantir la qualité des données générées à travers le spectre de compétences existant. Au lieu de se concentrer sur des projets d'IA avancés et à forte valeur ajoutée, les data scientists se retrouvent aujourd’hui à effectuer des opérations basiques, pouvant pourtant être réalisées par d’autres personnes. De plus, avec les employés souhaitant seulement développer leurs compétences pour quitter leur poste actuel, il devient nécessaire pour les dirigeants de limiter les difficultés auxquelles les équipes sont confrontées en proposant plus de formations et en soulageant les employés chargés des données et de la technologie », conclut-il.

Méthodologie :
Alteryx a commissionné la société d'études de marché YouGov, pour sonder plus de 3 000 « travailleurs de la donnée » dans des organisations de plus de 500 employés au Royaume-Uni, en France et en Allemagne sur le thème de la culture des données. L'enquête s'est déroulée en mai et juin 2021 et a recueilli les réponses de 1 038 travailleurs de données au Royaume-Uni, 1 011 en France et 1 007 en Allemagne. "Les travailleurs de la donnée" ont été définis comme des employés de toutes les unités commerciales qui travaillent avec des données au quotidien.