L’IA est un domaine très large, ayant des utilisations déjà intégrées dans notre vie quotidienne sans que nous le sachions. Depuis quelques mois, l’IA générative s’est démocratisée avec l’arrivée de différents services comme ChatGPT, Gemini ou Copilot. Ces services, très accessibles et en partie gratuits, ont vu une réelle explosion au niveau du nombre d’utilisateurs.
Comme pour beaucoup d’usages du web, on retrouve le phénomène de « shadow IT » qui désigne les outils utilisés par les salariés sans être connus par le dirigeant ou le responsable informatique. Ce mouvement est difficilement maîtrisable, et on parle désormais de « shadow IA ».
Les entreprises ont déjà été confrontées à ce type de phénomène avec l’arrivée d’internet, des moteurs de recherche ou des réseaux sociaux, qui ont changé notre approche de l’informatique traditionnelle. Ces nouveautés posaient déjà des questions concernant l’intégration ou non dans les entreprises.
L’IA générative offre des opportunités intéressantes pour les entreprises, mais il est crucial de se pencher sur les limites et les risques liés à son utilisation professionnelle.
De plus, les aspects juridiques au sujet de la responsabilité de l’entreprise peinent à trouver des réponses rapides, et l’incertitude règlementaire perdure.
Cet article a pour objectif de vous donner des éléments de réflexion et questions à vous poser avant d’intégrer ces assistants dans votre entreprise.
Quels sont les risques liés à l’IA générative ?
La réponse sur les risques variera en fonction de l’utilisation et de l’impact sur les activités de l’entreprise.
Image de l’entreprise
L’IA générative peut produire des hallucinations et fournir des informations inexactes, ce qui peut engager la responsabilité de l’entreprise si elles sont diffusées ou utilisées comme base pour un conseil prodigué par un salarié.
Contrefaçon
L’IA générative est basée en partie sur un apprentissage sur des données publiques relevant du droit d’auteur ou de la propriété intellectuelle ou industrielle. Il est souvent difficile d’identifier précisément les sources utilisées dans le moteur pour générer les réponses automatiques.
Le contenu généré peut inclure des informations ou des images appartenant à des ayants droit, susceptibles de les revendiquer et de demander des comptes à l’entreprise qui les utilise.
Biais cognitifs
Les IA génératives sont entraînées sur des corpus qui peuvent provoquer la génération de contenus discriminatifs.
C’est particulièrement vrai pour les IA générant des images, où, par exemple, une image par défaut d’un chirurgien est rarement, voire jamais, une femme. Ce biais peut aussi être rencontré sur des outils qui seraient utilisés pour analyser des CV.
Diffusion d’informations sensibles
L’utilisation des données des utilisateurs par certains modèles d’IA pour améliorer leurs performances et réponses peut soulever des questions sur l’exploitation des données de l’entreprise par des tiers.
C’est une question plus particulière dans le cas des données personnelles où la législation à respecter (RGPD) est très exigeante en Europe.
Amplification de la fracture numérique avec l’utilisation de l’IA générative
Il est fort probable que ces nouveaux usages s’intègrent dans notre routine quotidienne, et certains utilisateurs pourraient avoir des difficultés à les maîtriser.
Les changements dans les métiers et les emplois
Du métier Jacquard à l’automobile, toute nouvelle technologie a eu un impact sur les métiers dans les entreprises. Le numérique est un outil d’automatisation ou d’optimisation de tâches, souvent celles répétitives et avec peu de valeur ajoutée. La sur-communication sur l’IA générative peut engendrer des peurs sur l’évolution ou pire, la disparition de certaines fonctions dans les entreprises.
La sécurité informatique
L’IA, de façon générale, est très puissante et permet de réaliser beaucoup de choses. Cela crée aussi de nouvelles opportunités pour les hackers. Ce n’est donc pas uniquement l’intégration de l’IA générative qui peut être un risque, mais la cybersécurité de manière générale qui peut évoluer avec ces outils. Ce risque est donc exogène et induit par le développement de l’IA de manière générale.
Comment encadrer l’usage de l’IA générative ?
Interdire l’usage des IA génératives
Il semble difficile de limiter l’usage de ces outils, car ils peuvent être utilisés gratuitement avec une simple ouverture de compte et depuis un téléphone mobile, échappant ainsi au contrôle de l’entreprise. De plus, Copilot est accessible gratuitement (bien que de manière limitée), ou par le biais de certains abonnements à Office 365 Entreprise.
Choisir un seul service d’IA générative
Actuellement, il est difficile de prendre une position ferme sur le choix d’un outil, car ce domaine est en pleine expansion avec des solutions en constante évolution et un modèle économique encore assez fragile. Ce qui implique souvent, tant que ces solutions ne sont pas intégrées dans nos outils bureautiques, l’utilisation de plusieurs plateformes.
Sensibiliser et former les salariés à l’IA générative
Comme toute nouvelle technologie, l’IA générative peut susciter des craintes chez les utilisateurs, qu’il s’agisse de la peur pour leur emploi ou de la simple appréhension de l’utiliser. La sensibilisation et la formation doivent être les premières briques pour faciliter la gestion interne de l’IA générative, en montrant comment cela fonctionne et en informant sur les limites de ces outils.
Utiliser l’IA générative en local
Pour des applications stratégiques et confidentielles, il est possible d’utiliser des IA génératives installées dans son entreprise. Il est bien entendu que le budget sera plus élevé que sur une application partagée en ligne, mais la confidentialité sera assurée. Il sera nécessaire de s’équiper d’un matériel puissant avec une très bonne capacité de calcul et une carte graphique (GPU) très performante pour avoir un temps de réponse rapide. Ceci peut être un moyen de créer un assistant dédié à une problématique métier.
Intégrer l’IA générative dans la charte informatique de l’entreprise
Souvent absent dans les entreprises, ce document permet de réguler l’utilisation des outils numériques professionnels. Voici quelques exemples de paragraphes pouvant vous inspirer pour intégrer l’IA générative dans votre charte informatique.
Une utilisation responsable
L’IA générative doit être utilisée de manière responsable. Nous nous engageons à éviter la création et la diffusion de contenus trompeurs ou nuisibles, tels que les deepfakes et la désinformation. Ensemble, nous veillons à préserver l’intégrité de nos communications et de nos données.
Vérifier au préalable les données d’apprentissage afin de limiter les risques concernant les éléments générés.
Confidentialité et Données Personnelles
L’utilisation de l’IA générative doit respecter les réglementations (RGPD) en matière de confidentialité des données, et nous encourageons une vigilance constante pour protéger ces informations sensibles.
Vérifier en amont le traitement des données intégrées par l’utilisateur dans les conditions générales d’utilisation et les anonymiser si nécessaire.
Propriété Intellectuelle
Nous devons nous assurer que les contenus générés par l’IA respectent les droits d’auteur et les lois sur la propriété intellectuelle ou industrielle. Nous encourageons tous les collaborateurs à vérifier que les créations générées ne violent pas les droits existants et à obtenir les autorisations nécessaires lorsque cela est requis en vérifiant dans les CGV les points concernant ce sujet.
Fiabilité et Précision
La fiabilité et la précision des systèmes d’IA générative sont imparfaites. Il est donc essentiel de valider rigoureusement ces données pour garantir la qualité des résultats produits. Nous invitons les employés à participer activement à ces processus de vérification pour garantir des standards élevés.
Impact sur l’Emploi
L’automatisation par l’IA générative peut transformer certains emplois. Nous nous engageons à soutenir nos employés par des programmes de formation pour minimiser les impacts économiques et sociaux.
Impact sur l’environnement
L’IA nécessite des ressources numériques gourmandes en énergie et utilisant des technologies à fort impact environnemental, ce qui impose un usage raisonné au sein de l’entreprise.
L’usage des solutions mises à disposition
Les outils mis à disposition pour les salariés sont limités à un usage professionnel.
Il faudra tenir compte de l’usage prévu de l’IA générative et des métiers qui vont influer sur le cadre général de l’utilisation, entre-autres pour des informaticiens ou encore des graphistes.
Ces usages étant encore émergents de manière générale et dans beaucoup d’entreprises, ces paragraphes devront évoluer rapidement et surtout être validés juridiquement afin de pouvoir les rendre applicables.
—
Si vous êtes une entreprise de la région Auvergne-Rhône-Alpes, avec un projet web ou numérique, vous pouvez bénéficier du programme d’accompagnement régional Atouts Numériques. N’hésitez pas à remplir le formulaire pour adresser votre demande, et vous serez mis en relation avec un conseiller proche de chez vous.
—
Crédit photos :
En-tête d’article : Photo de Solen Feyissa sur Unsplash
