L'IA sans supervision humaine : quand un rapport officiel devient une leçon sur ce qu'il ne faut pas faire

Mon attention s’est récemment tournée vers la chaîne YouTube « Pivot to AI » de David Gerard, un commentateur qui analyse avec un œil critique les développements, souvent absurdes, dans le monde de l’intelligence artificielle. Une de ses récentes analyses expose une situation qui sert d’avertissement majeur pour toute organisation qui envisage l’intégration de l’IA dans ses processus de production de contenu. Il s’agit d’un rapport gouvernemental sur l’éducation qui, ironiquement, est devenu un cas d’école sur la mauvaise utilisation de la technologie qu’il prétend promouvoir.

Un rapport pour l’avenir de l’éducation bâti sur des fondations fictives

Le document en question est l'« Education Accord NL », un rapport de 418 pages censé guider la stratégie éducative de la province de Terre-Neuve-et-Labrador pour la prochaine décennie. Cependant, la crédibilité du document a été sérieusement compromise suite à une enquête des journalistes Alex Kennedy et Darrell Roberts de CBC News.

CBC News a révélé que ce travail de 18 mois contient au moins 15 sources académiques complètement fabriquées. Certaines citations semblent même provenir de guides de style universitaire qui utilisent des références volontairement fausses comme exemples.

Le ministre provincial de l’Éducation a nié l’utilisation de l’IA, qualifiant l’idée de « farfelue », tout en affirmant que ces erreurs n’affectaient pas la crédibilité globale de l’accord. Pourtant, la nature des erreurs pointe vers une production de contenu non supervisée, typique d’une utilisation maladroite d’un agent conversationnel. Le comble de l’ironie : le rapport propose lui-même un plan pour enseigner aux enfants les « implications éthiques et sociétales de l’IA ».

L’IA mal maîtrisée : un cadeau pour ses détracteurs

Il est surréaliste de constater qu’un document directif pour l’enseignement soit lui-même si profondément mal dirigé. En voulant promouvoir l’IA dans un contexte pédagogique, les auteurs ont surtout démontré une maîtrise totalement absente de la technologie. Le résultat est un véritable cadeau offert aux opposants les plus opiniâtres de l’IA, qui utiliseront cet exemple comme une preuve irréfutable des dangers de cette technologie.

Plus grave encore est le risque de contamination de la connaissance. Ce rapport, publié sous une bannière académique et gouvernementale, introduit des faussetés dans l’écosystème informationnel. Ce phénomène crée un cercle vicieux extrêmement dangereux pour l’avenir des modèles d’IA eux-mêmes :

1. Publication de faussetés : Du matériel produit par une IA, non validé par des humains et contenant des erreurs, est publié par une source qui semble crédible.
2. Légitimation par l’entraînement : Les futures versions des modèles d’IA sont entraînées sur un corpus de données qui inclut maintenant ces faussetés, les intégrant et les légitimant comme des faits.
3. Amplification du cycle : De nouveaux contenus sont générés par les modèles mis à jour, réutilisant et citant ces informations erronées, ce qui crée encore plus de sources qui les valident.

À grande échelle, ce monde d’informations fabriquées peut devenir une réalité virtuelle qui influence les croyances et les décisions des humains. Si l’on considère qu’un modèle peut servir à en entraîner un autre, le risque d’une contamination virale de l’ensemble des modèles est bien réel. Cette situation est amplifiée lorsque le texte est faussement présenté comme étant de source humaine, polluant le bassin de données originales dont les chercheurs ont désespérément besoin pour faire évoluer leurs technologies.

De la salle de classe au conseil d’administration : les leçons pour votre entreprise

Cette débâcle n’est pas qu’une anecdote du monde de l’éducation. C’est une démonstration claire des risques opérationnels et réputationnels pour toute organisation.

Votre organisation doit prendre acte de trois leçons fondamentales :

1. L’humain doit rester dans la boucle : Cet incident illustre parfaitement l’absence d’un superviseur humain compétent. L’IA doit être un assistant, pas un remplaçant autonome pour des tâches qui exigent un jugement critique.
2. Des directives éthiques sont non négociables : Toute organisation bénéficiera de la mise en place de directives claires sur l’utilisation acceptable et responsable des intelligences artificielles. Qui peut les utiliser ? Pour quelles tâches ? Quel est le processus de validation obligatoire ?
3. La formation est essentielle : Le personnel qui utilise l’IA pour produire du matériel doit être formé non seulement sur le fonctionnement de l’outil, mais aussi sur ses limites, ses biais et les meilleures pratiques de vérification.

Pour intégrer l’IA, deux approches pragmatiques et sécuritaires s’offrent à vous. Elles maintiennent toutes deux l’humain au centre du processus :

• L’humain assisté par l’IA : Le professionnel utilise l’IA comme un partenaire de remue-méninges, un critique ou un optimiseur. Il rédige une ébauche et demande à l’IA de la challenger, d’identifier les faiblesses ou de proposer des améliorations. L’humain garde le plein contrôle créatif et décisionnel.
• L’IA comme point de départ : Le professionnel demande à l’IA de générer une première version d’un texte. C’est ensuite à l’humain de déconstruire, vérifier, valider et réécrire chaque élément : le style, la véracité des faits, la pertinence des sources et la solidité des arguments.

L’IA est une opportunité, pas une panacée

Je ne crois pas que l’IA soit prête à sortir l’humain de la boucle des processus de travail à haute valeur ajoutée. Je crois fermement, en revanche, qu’elle représente une occasion de gains de productivité sans précédent lorsqu’elle est déployée de manière stratégique.

À ce jour, une IA autonome ne possède pas la créativité, l’intuition ou le discernement éthique d’un humain. Elle peut faire des liens dans d’immenses corpus de connaissances, mais elle ne peut inventer ce que l’humain n’a pas encore inventé. Demandez-lui un remède contre le cancer et elle ne fera que synthétiser les limites du savoir humain actuel.

Le cas du rapport « Education Accord NL » nous le rappelle brutalement : l’intelligence artificielle sans intelligence humaine est une recette pour la catastrophe.

Prêt à définir un cadre d’utilisation de l’IA qui accélère votre productivité sans sacrifier votre crédibilité ?

Planifiez une consultation stratégique avec un expert de Force5 pour évaluer vos processus et mettre en place des directives d’IA robustes et adaptées à votre réalité d’affaires.

IA Intelligence artificielle Supervision humaine Transformation numérique Gouvernance TI Éthique technologique Rapport gouvernemental Validation Contrôle qualité Processus Risques Productivité