Les intelligences artificielles (IA) promettent un avenir fait de progrès mais aussi d’inconnu. Selon l’expert en IA Dario Amodei, dès 2025, nous pourrions voir des IA capables de s’auto-répliquer, rappelant les fameux Réplicateurs de Stargate SG1.
Un futur digne de la science-fiction
Notre rythme actuel d’innovation en matière d’intelligence artificielle, selon Dario Amodei, fondateur de la société spécialisée dans le développement d’IA éthiquement encadrées, Anthropic, pourrait très bientôt nous amener à voir des IA capables de s’autorépliquer et de se gérer de manière autonome. Ce sujet, qui semble tiré d’un scénario de film de science-fiction, a été abordé par Amodei lors d’une pour le New York Times. Il y insiste sur la nécessité de prendre cette hypothèse très au sérieux.
Les IA et l’échelle de sécurité
Actuellement, la grande majorité des IA se classent dans le niveau 2 de l’échelle de sécurité « AI Safety Levels » (ASL) définie par la société Anthropic. Cela signifie que même si des risques existent déjà, ils sont tout de même relativement maîtrisés.
Néanmoins, Amodei soulève l’éventualité d’une montée vers le niveau 4 de la dite échelle. Avec ce niveau, les IA seraient dotées d’une autonomie significative et pourraient persuader les humains.
Il est important de noter que toutes les organisations travaillant dans le domaine de l’IA ne prônent pas toutes une approche aussi prudente qu’Anthropic. En effet, certaines pourraient être tentées de développer des IA à des fins militaires, en écartant les risques potentiels pour la société.
Une future proche et des enjeux conséquents
Amodei n’exclut pas la possibilité que même des pays comme la Corée du Nord, la Chine ou la Russie utilisent ces IA autonomes pour renforcer leurs forces militaires. L’utilisation de robots auto-dupliquants pourrait en effet représenter une nouvelle ère dans l’histoire des conflits armés, rendant le contrôle de ces machines et leur impact sur la société d’autant plus préoccupants.
Le fondateur d’Anthropic donne une date potentielle à cette avancée certainement déstabilisante pour le moins audacieuse : 2025.
> « Je crois aux exponentielles. Je pense qu’A.S.L. 4 pourrait voir le jour entre 2025 et 2028. »
Compte tenu des progrès significatifs déjà réalisés dans le domaine de l’IA, comme la génération de vidéos d’un réalisme bluffant, ces prédictions ne sont certainement pas à prendre à la légère.
Entrons-nous dans une nouvelle ère qui pourrait s’avérer être bien complexe à gérer, où l’esprit humain tentera de rivaliser avec l’évolution exponentielle de l’IA autogérée? Est-ce que les protocoles de sécurité actuels sont suffisants pour contenir une IA qui atteint le niveau d’autonomie de répliquer et se gérer par elle-même ?
Ça vous a plu ? 4.6/5 (25)
