Ce que l’IA fait sans comprendre inquiète les experts : son apprentissage aveugle pourrait entraîner des dérives majeures

Les modèles de langage avancés, souvent perçus comme intelligents, ne font en réalité que deviner. Leur apprentissage repose sur des schémas de langage, ce qui explique leurs erreurs, hallucinations et biais. Décortiquons ces mécanismes pour mieux comprendre cette technologie fascinante mais imparfaite.

Comment fonctionne l’apprentissage d’une IA

Les modèles de langage, comme ceux utilisés par les intelligences artificielles, ne traitent pas l’information comme le font les humains. Ils n’ont ni raisonnement, ni compréhension, ni conscience. Au lieu de cela, ils s’appuient sur d’immenses ensembles de données, tels que des livres, des sites web et des conversations, pour prédire la suite d’une séquence de mots.

Le langage est décomposé en unités appelées tokens, qui peuvent être des mots ou des syllabes. Les modèles ne traitent pas des idées complètes, mais des probabilités de tokens. Par exemple, le mot « laver » pourrait être séparé en « lav » et « er ». Ces modèles utilisent des poids, qui sont des milliards de valeurs ajustables dans le réseau neuronal, pour influencer la probabilité qu’un token suive un autre.

Le fonction de perte est un mécanisme par lequel le modèle évalue ses erreurs après une prédiction et ajuste ses poids pour réduire les erreurs futures. Grâce à la reconnaissance des schémas, le modèle devient très bon pour identifier des schémas linguistiques, mais il ne « connaît » pas réellement les faits. Il se contente de reproduire ce qui semble correct selon ses données d’entraînement.

« Je vais pulvériser Apple » : Sam Altman, milliardaire visionnaire, prêt à éclipser l’iPhone avec cet appareil révolutionnaire signé par une légende d’Apple

Le cœur du problème

Les modèles de langage, basés sur des devinettes, peuvent souvent se tromper. Une des erreurs les plus notables est l’hallucination, où le modèle génère des informations fausses ou inventées, comme un article scientifique fictif. Il ne s’agit pas de mensonge, mais d’une incapacité à distinguer le vrai du faux, se basant uniquement sur des schémas.

Dans des contextes réels, comme le domaine juridique, académique ou médical, ces hallucinations peuvent avoir des conséquences désastreuses, par exemple en fabriquant des lois ou des diagnostics sans connaissance du passé médical du patient. C’est pourquoi il est crucial que les contenus générés par l’IA soient revus et vérifiés par des humains, surtout dans des domaines où la précision est essentielle.

Le biais est une autre faille importante. Les modèles de langage peuvent être influencés pour donner des résultats favorisant une idée sur une autre. Ces modèles, formés sur de vastes données internet, absorbent les biais culturels, stéréotypes de genre et penchants politiques. Le modèle ne sait pas filtrer les idées, il apprend simplement de ce qu’on lui donne. Le biais n’est pas intentionnel mais provient des données d’entraînement.

La Chine dévoile des yeux à IA pour aveugles : un dispositif révolutionnaire leur permet de se déplacer seuls avec une sécurité et une autonomie inédites

Pourquoi est-ce si difficile à corriger

Les modèles de langage fonctionnent avec des milliards de paramètres. Les entraîner de nouveau depuis le début est coûteux en termes de temps et de ressources. La mise à jour d’un modèle avec de nouvelles données nécessite une immense puissance de calcul, du matériel spécialisé et beaucoup de temps – souvent des semaines ou des mois. C’est pour cela que beaucoup de modèles sont abandonnés dès qu’ils montrent des signes de biais ou de connaissances obsolètes.

L’opacité des boîtes noires est un autre défi. Cette opacité désigne l’incapacité à comprendre pourquoi un modèle produit une réponse particulière. Même les chercheurs qui construisent ces modèles ne savent pas toujours pourquoi une sortie spécifique est générée. Les décisions du modèle reposent sur des milliards de poids interconnectés, ce qui rend impossible la traçabilité de l’origine d’une hallucination ou d’un biais précis.

Pour atténuer ces problèmes, les développeurs se tournent vers l’apprentissage par renforcement à partir de retours humains (RLHF), où des évaluateurs humains notent les sorties pour enseigner au modèle ce qui est approprié. Cependant, le RLHF est laborieux, coûteux et limité par l’échelle humaine. Il ne peut pas couvrir chaque réponse que le modèle pourrait générer, surtout pour les cas marginaux, les nuances culturelles ou les sujets en évolution rapide.

500 % de vues YouTube en plus : cette stratégie redoutable propulse les influenceurs au sommet du business en ligne

Quelles solutions sont envisagées ?

Malgré les défis, chercheurs et entreprises travaillent activement pour rendre l’IA plus sûre, fiable et alignée sur les valeurs humaines. Ces efforts vont de l’innovation algorithmique aux débats politiques mondiaux. Le principal défi est de rendre l’IA plus fiable en l’alignant sur les valeurs humaines. Ces vastes efforts incluent des avancées algorithmiques et des discussions réglementaires internationales.

Par exemple, OpenAI a lancé Superalignment, une initiative visant à aligner les systèmes d’IA avancés sur l’intention humaine. L’équipe travaille à construire une IA capable de raisonner sur les valeurs et la sécurité humaines sans nécessiter une supervision constante. Anthropic développe une technique où un modèle IA est formé pour adhérer à un ensemble de principes directeurs, plutôt que de se fier uniquement aux retours humains. Cette technique, appelée IA constitutionnelle, permet au modèle d’améliorer son comportement de pensée, devenant transparent et évolutif avec le temps.

Avec toutes ces avancées et ces défis, la question demeure : comment pouvons-nous garantir que l’IA reste un outil au service de l’humanité sans dépasser les limites de son contrôle ?