Mieux comprendre l’IA, son fonctionnement ainsi que les risques associés à ses usages est essentiel pour bien l’utiliser.

L’intelligence artificielle, et notamment l’IA générative, nous accompagne au quotidien, dans notre vie privée et, de plus en plus, dans la sphère professionnelle. Si la technologie est « bluffante » à travers les réponses qu’elle apporte, dans la recherche d’information ou la production de contenu, rares sont les personnes capables d’expliquer comment elle parvient aux résultats fournis.

 

Démystifier l’IA

Or, l’utilisation de l’IA, et plus particulièrement de l’IA générative, n’est pas exempte de risques. Ceux-ci sont de diverses natures. « Vis-à-vis des utilisateurs comme des entreprises, démystifier l’IA, comprendre comment fonctionne la technologie, permet de l’utiliser à bon escient », explique Franck Niatel, Head of HyperAutomation & Digital Labs chez Fujitsu Luxembourg.

C’est dans cette optique que l’expert est intervenu, jeudi 23 avril, dans le cadre d’une conférence proposée par Meetincs, pour évoquer les fondements de la technologie, les possibilités qu’elle offre, mais aussi les risques associés et les moyens de les prévenir.

 

Des réseaux de neurones ouvrant de nouvelles perspectives

« La technologie se construit autour de réseaux de neurones, permettant d’effectuer des corrélations entre des données agrégées, comme le fait notre cerveau. Plus le réseau est complexe, plus la quantité d’informations agrégées est importante, et plus on peut obtenir des résultats fins », explique Franck Niatel.

C’est essentiellement le développement des capacités de calcul et de stockage des données, ces dernières années, qui a permis l’explosion des usages de l’intelligence artificielle. « ChatGPT, dès 2023, en proposant une interface accessible à tous, sous la forme d’un chatbot, a démocratisé cette technologie », ajoute-t-il.

 

L’IA experte de la forme, plus que du fond

Comprendre comment fonctionne l’IA générative permet d’en apprécier les limites. L’intelligence associée à la technologie, à cet égard, reste relative. « L’IA générative est avant tout experte sur la forme, pas tant sur le fond. Les réponses fournies se construisent sur la base de probabilités, dans une logique de super-autocomplétion », explique Franck Niatel.

Comme Google suggère des mots pour compléter une requête, l’IA évalue des probabilités pour construire des réponses complètes et cohérentes… sans forcément s’assurer de leur véracité. « L’IA ne déchiffre pas le langage. Elle transforme les éléments en tokens, soit des suites de chiffres, qu’elle organise ensuite sur une base vectorielle pour effectuer des corrélations », précise-t-il.

 

L’importance de l’architecture et du choix du modèle

Les solutions d’IA sont, par ailleurs, distribuées sous différentes formes, à travers de grands (ou petits) modèles de langage, propriétaires ou open source. Le choix du modèle et de l’environnement dans lequel il est déployé est déterminant, notamment au regard des enjeux de sécurité ou de coûts.

« Un modèle propriétaire, par exemple, agit comme une boîte noire et expose l’entreprise à des enjeux de coûts ou de dépendance (vendor lock-in). En matière de confidentialité des données, des questions se posent également, l’information étant traitée en dehors de l’environnement informatique de l’entreprise. Des modèles open source, eux, peuvent être déployés en local, pour peu que l’on dispose des capacités suffisantes », explique Franck Niatel.

 

Maîtriser l’outil et ses prompts

Les cas d’usage de l’IA générative sont aujourd’hui nombreux : rédaction de contenu, synthèse, analyse de données ou de documents, création d’images, de vidéos ou de sons, génération d’outils de support ou de formation (via des avatars, par exemple), ou encore traduction.

Au-delà des aspects techniques, tout se joue dans la manière dont on utilise l’IA. « La qualité des réponses fournies dépend à 90 % de la qualité de la question, de l’instruction qui lui est donnée », souligne Franck Niatel.

Apprendre à bien prompter — en précisant le rôle de l’IA, en lui donnant du contexte et en étant clair sur les attentes — est donc essentiel.

 

Connaître les risques pour les prévenir

La qualité des données sources est également déterminante. Il faut aussi avoir conscience que l’IA, en raison de son fonctionnement, peut « halluciner ». Parce qu’elle doit fournir une réponse, elle peut aller jusqu’à en inventer.

« Ces risques doivent être pris en considération, tout comme le fait que l’IA peut reproduire des biais présents dans les données sur lesquelles le modèle a été entraîné », explique Franck Niatel. Cela peut, par exemple, conduire à des situations d’exclusion ou de discrimination non souhaitées.

 

Déployer avec des garde-fous

Pour répondre à ces enjeux, il est nécessaire de sensibiliser les utilisateurs, mais aussi de cadrer les usages de l’IA. « Dans cette optique, le RAG (Retrieval Augmented Generation) agit comme un documentaliste de l’IA, capable d’enrichir le prompt ou de cadrer les réponses. Il permet d’apporter du contexte et de s’assurer de leur pertinence », explique l’expert.

De manière plus générale, il est possible de limiter les hallucinations via les prompts, le RAG, en demandant à l’IA de détailler son raisonnement, ainsi qu’en vérifiant systématiquement la pertinence des réponses fournies. L’utilisateur doit donc conserver un esprit critique.

 

Préserver son esprit critique

« Bien qu’il soit séduisant de déléguer notre travail à l’IA, cela nous prive de l’effort intellectuel nécessaire. À terme, cette dépendance risque d’atrophier nos capacités cognitives, en diminuant notre mémoire, notre créativité et notre aptitude à structurer nos pensées », met en garde Franck Niatel.

D’autres enjeux entrent également en ligne de compte, notamment en matière de cybersécurité, l’IA étant massivement utilisée par les cyberattaquants pour tromper des utilisateurs ou pénétrer des systèmes.

 

Des usages bien encadrés

Enfin, comme l’a évoqué Vincent Wellens, avocat spécialisé chez NautaDutilh, lors de cette session, l’usage de l’IA est également encadré par la loi. Parmi les principaux cadres juridiques figure l’AI Act, qui entre progressivement en application et encadre les usages selon une classification des risques.

« Selon le niveau de risque, des obligations de conformité s’imposent aux fournisseurs de solutions ainsi qu’aux organisations qui les déploient », a-t-il précisé. En cas de non-conformité, les acteurs s’exposent à des sanctions.

« Mais l’usage de l’IA implique aussi de prendre en compte un ensemble d’autres réglementations, liées à la sécurité, à la résilience, au secret professionnel, au RGPD ou encore à la propriété intellectuelle », a-t-il ajouté.

Si le potentiel de l’IA est considérable, il est essentiel de l’aborder en connaissance de cause. C’est sans doute là le principal défi des organisations qui souhaitent en tirer pleinement parti.