5883 CONTENT gop 1000x90 2024 Microsoft Work Magic W24

Des Intelligences Artificielles sous contrôle

Des Intelligences Artificielles sous contrôle

Évaluer cet élément
(1 Vote)

Intégrer l’Intelligence Artificielle (IA) ou des IoT dans son système d’information impose entre autres de prendre en compte les aspects juridiques de ce type d’application. En France, ces derniers sont soumis à des règlements européens, notamment le RGPD, le CRA et l’IA Act. Quelques pistes...

La prise en compte des risques juridiques liés à l’utilisation de l’IA ou encore des IoT peut paraître superflue. Bien que ces technologies soient récentes, une première procédure a été lancée aux États-Unis mettant en cause l’utilisation de l’IA* dans le logiciel de RH de l’éditeur Workday. Un candidat a avancé que le refus de plusieurs entreprises de l’embaucher reposerait sur l’utilisation d’une IA du logiciel Workday le discriminant. Si la première décision juridique l’a débouté, une seconde l’a prise en compte au motif que l’IA de ce logiciel sert de « Gatekeeper » (contrôleur d’accès).
Alexandre Diehl

Quelle que soit la décision de justice qui sera prise, l’affaire met en exergue l’utilisation de l’IA et le partage de responsabilité entre l’éditeur de logiciel et l’entreprise utilisatrice. Si ce cas reste exceptionnel pour l’instant, une initiative de Microsoft concrétise ce risque en particulier pour l’IA générative. L’éditeur a annoncé qu’il paiera des dommages et intérêts au nom des clients qui utilisent ses produits d'intelligence artificielle, notamment Copilots, et Bing Chat Enterprise, s'ils sont poursuivis pour violation des « droits d'auteur » pour les résultats générés par ces systèmes. Or, il ne peut y avoir de violation de « droits d’auteur » que si ceux-ci existent.

« Une annonce qui a peu de chances de s’appliquer concrètement en Europe, souligne Alexandre Diehl, avocat du cabinet Lawint. Aux États-Unis, le copyright impose de déposer ses « œuvres » auprès du Copyright Office, en Europe, le droit d’auteur est valable sans aucun dépôt. Le risque que les produits de Microsoft violent un droit d’auteur est donc beaucoup plus grand puisque ce droit existe dès la création d’une œuvre originale. Il est donc peu probable que le programme de Microsoft s’applique en Europe ».

Un règlement européen contraignant

En Europe, la réglementation sur le sujet repose principalement sur l’IA Act. Le législateur a assorti son texte d’une série de sanctions financières. Outre la prise en compte du droit d’auteur, ce Règlement européen stipule une série d’exigences dont les grandes lignes semblent claires. Si les grands modèles d’IA générative, dit de fondation (ChatGPT…) font l’objet d’une réglementation spécifique, toutes les applications d’IA devront faire preuve de transparence, d’auditabilité et d’explicabilité. Ces obligations varient en fonction de la criticité du cas d’usage.

Concrètement, les concepteurs ou les entreprises utilisatrices devront pouvoir documenter ces trois aspects. Il s’agira donc de détailler le processus d'entraînement et de prouver que des tests ont été menés pour réduire les risques d’aberrations. Également appelées hallucinations, ces erreurs inévitables tiennent à l’approche statistique de cette technologie. Le législateur demande aussi de démontrer que des moyens ont été mis en place pour identifier les données servant à l’entraînement des algorithmes.

Globalement, il s’agit donc de documenter l’ensemble de ces applications, et ce, à la fois lors de la mise en place et ensuite dans la durée. En dehors de quelques entreprises spécialisées ou des grands comptes, ces exigences impliquent de faire intervenir des spécialistes. « Il est donc essentiel de prévoir des clauses spécifiques avec son fournisseur garantissant la prise en charge de ces aspects », décrit Alexandre Diehl.

Contractualiser avec les utilisateurs

De leur côté, l’utilisation des IoT, objets connectés ou de leurs déclinaisons industrielles posent moins de contraintes mais nécessite tout de même de prendre quelques précautions sur le plan juridique. Ces objets connectés (Internet of Things) sont soumis, depuis 2022, au règlement européen sur la cybersécurité des objets connectés, le CRA (Cyber Resilience Act). Un règlement qui a pour but de promouvoir la cybersécurité des objets connectés en imposant des normes de sécurité minimales pour les fabricants et les éditeurs de logiciels.

Pour une société utilisatrice, il est donc préférable de s’assurer que son fournisseur respecte bien cette législation. Toujours pour les IoT, certaines applications peuvent impliquer une géolocalisation des salariés. « Quand elles impliquent des données personnelles de la géolocalisation, elles tombent sous la coupe du RGPD. Il est donc nécessaire de contractualiser l’acceptation ou l’information des utilisateurs », explique Alexandre Diehl.

Autre technologie récente, si la Blockchain pose de nombreuses questions juridiques, il n’existe pas à ce jour de texte général européen ou français encadrant son utilisation dans ce cadre. Sur le terrain, elle reste peu utilisée en dehors des cryptomonnaies, et son intérêt n’est pas prouvée dans nombre de cas d’usage. Au final, l’ajout de son système d’information de technologie récente suppose de prendre en compte la dimension juridique pour limiter les risques et de contractualiser si nécessaire avec ses fournisseurs IT.

Lu 770 fois Dernière modification le mardi, 14 mai 2024 14:41
Patrick Brébion

Après des débuts dans le développement logiciel, Patrick est devenu journaliste dans les années 90. Depuis, il couvre de nombreux sujets pour la presse BtoB avec une prédilection pour les technologies de l’information.

Annonces

cta livre blanc facture

Le magazine digital

Inscrivez-vous à notre édition digitale pour feuilleter gratuitement le prochain numéro

inscrit.png   

Paru le 4 mars 2024
GPO Magazine N°113
Demandez votre exemplaire au service Vente au numéro

Lire l'extrait GPO 113.png

Paru le 27 novembre 2023
Édition Spéciale Transformation digitale
Recevez-le dès aujourd'hui !
Abonnez-vous à l'année en cliquant ici

Vignette Lire un extrait HS Transfo Digitale.png

Livres Blanc et E-book

Le Système d'Exploitation Hybride Windows 11 de Microsoft Booste la Productivité et la Sécurité en Entreprise
Microsoft a récemment dévoilé Windows 11, son dernier système d'exploitation, qui s'adapte parfaitement au mode…
Quelle stratégie pour établir une relation commerciale durable en Allemagne : un guide pour les dirigeants d’entreprises françaises
L'Allemagne, premier partenaire commercial de la France, demeure un marché d'exportation incontournable pour les entreprises…
Comment favoriser sa transition vers une économie mondiale durable ?
La CSRD contribue à l’objectif de l’Union européenne de promouvoir une économie durable et responsable,…
Plus de livres blanc

Webinaires

Facturation Électronique 2024 : une opportunité de performer pour les entreprises !
Une enquête de Wax Digital a révélé que 70 % des professionnels de la comptabilité…
Comment faire prospérer son entreprise dans la conjoncture actuelle ?
Pour accompagner les entreprises au plus près de leurs préoccupations, les experts de KPMG, Crédit…
Comment aborder la fin du « quoi qu’il en coûte » ?
Symboles du « quoi qu'il en coûte » comme réponse au Covid-19, les prêts garantis…
Plus de webinaires

Services aux entreprises

è Comment les données et l’IA peuvent révolutionner les prises de décision ?

L'impact que les données peuvent avoir sur l’entreprise et comment des outils technologiques permettent d’exploiter ces données de manière efficace et sécurisée.

Visualiser la vidéo sur notre chaîne en cliquant ici


è
 Découvrez le réel impact de Windows 11 Professionnel

Grâce à la sécurité activée par défaut, les entreprises du monde entier prennent des initiatives plus audacieuses et des décisions plus rapides.

 
è Facturation électronique 2026

Un guide détaillé sur les étapes clés pour réussir son passage à la facturation électronique 2026 et franchir le pas de la dmatérialisation, avec tous les bénéfices qui l'accompagnent.

LB Facturation electronique 2026 Docuware.png

 

è  BUSINESS FRANCE : Établir des relations commerciales en l'Allemagne

L'Allemagne est le premier partenaire commercial de la France et représente le plus fort potentiel à l'export de la France à horizon 2025. Ce marché à la fois passionnant et exigeant mérite d'adopter une stratégie durable pour établir une relation commerciale sur le long terme. Tel est l'objectif de ce livre blanc de 64 pages intitulé "Quelle stratégie pour établir une relation commerciale avec l'Allemagne", proposé par Business France et ses partenaires de la Team France, et téléchargeable gracieusement.

 Couverture Livre Blanc Business France Allemagne.png

 
è  SYLOB : ERP pour l'industrie

Anticiper les évolutions industrielles et se projeter dans l'usine intelligente du futur, tels sont les objectifs visés par ce guide pratique de 20 pages à destination des PME intitulé "Industrie 4.0 & ERP", proposé par Sylob et téléchargeable gracieusement.

Couv Sylob CTA.png

 

GPO Magazine

GPO Magazine, pour Gérer, Prévoir et Optimiser les ressources de l'entreprise est un magazine d'aide à la décision bimestriel, axé sur l'optimisation de la gestion d'entreprise, pour concrètement guider ses lecteurs dirigeants dans leurs réflexions stratégiques, leurs démarches opérationnelles, la gestion de leurs droits et dans le choix de leurs partenaires.

Une ligne éditoriale concrète et pertinente qui conjugue tendances, cas concrèts et témoignages, dossiers d'analyse, dossiers marchés, dossiers métiers, focus, point de droit, point international, point fiscal. Plus des " Avis d'Experts ".

Contactez-nous

Nos autres sites d'information

Twitter - Derniers posts