Il y a 161 ans, ce fermier néo-zélandais prédit l’essor de l’IA et annonce un futur apocalyptique qui résonne aujourd’hui

L’histoire de l’intelligence artificielle (IA) remonte à bien plus loin qu’on ne pourrait le croire. Alors que nous associons souvent les inquiétudes concernant la domination des machines à des films comme « The Terminator » ou « War Games », il est fascinant de découvrir qu’un agriculteur de moutons néo-zélandais avait déjà mis en garde contre ces dangers il y a 161 ans. Cet homme, Samuel Butler, a écrit une lettre prophétique intitulée « Darwin among the machines », dans laquelle il prédisait que les machines pourraient un jour supplanter l’humanité. Sa réflexion était si avancée pour l’époque qu’elle pourrait même avoir été lue par Abraham Lincoln. À travers cet article, nous explorerons les idées de Butler, leurs échos modernes et ce qu’elles signifient pour notre compréhension actuelle de l’IA.

L’anticipation de Butler sur l’évolution des machines

En 1863, Samuel Butler a publié une lettre dans le journal « The Press » de Christchurch, où il évoquait la possibilité d’une évolution mécanique. En se basant sur la théorie de l’évolution de Charles Darwin, Butler a suggéré que, tout comme les espèces biologiques évoluent, les machines pourraient également développer une forme de conscience. « Nous créons nous-mêmes nos propres successeurs », écrivait Butler, en soulignant que nous étions en train d’améliorer quotidiennement l’organisation physique des machines, leur conférant ainsi plus de puissance et d’autonomie. Cette idée était révolutionnaire à une époque où les ordinateurs n’existaient que sous forme de concepts théoriques, comme l’Analytical Engine de Charles Babbage.

Butler a également exploré l’idée que les humains pourraient devenir subordonnés aux machines, à l’image de la relation entre l’homme et ses animaux domestiques. Cette vision inversée du rapport de pouvoir entre l’homme et la machine était à la fois audacieuse et inquiétante. Butler a comparé cette éventualité à la situation où les chevaux et les chiens dépendent de l’homme. Pourtant, il a spéculé que les machines, une fois dominantes, pourraient traiter les humains avec bienveillance, car leur existence serait liée à la nôtre. Cette anticipation des dynamiques de pouvoir entre l’homme et la machine trouve encore un écho dans les débats contemporains sur l’IA.

Cette vengeance numérique coûte 630 000 € : l’ex-employé détruit 180 serveurs après un licenciement bâclé

Les répercussions modernes des prédictions de Butler

Les préoccupations de Butler concernant l’IA ont trouvé des résonances dans les œuvres littéraires et cinématographiques modernes. Des auteurs comme Isaac Asimov, avec son œuvre « The Evitable Conflict », et Frank Herbert, dans « Dune », ont exploré ces mêmes thèmes d’évolution et de domination des machines. Même les films comme « The Matrix » reprennent ces concepts de machines prenant le pas sur l’humanité. En effet, certains chercheurs pensent que Butler a inspiré le terme « Butlerian Jihad » utilisé par Herbert pour décrire une révolte contre les machines.

Ces prédictions ne sont pas que de la science-fiction. Avec l’avènement de technologies avancées telles que le GPT-4 d’OpenAI, les inquiétudes quant à la conscience des machines et à leur autonomie reviennent sur le devant de la scène. En 2023, des chercheurs et des dirigeants technologiques ont exprimé des craintes similaires à celles de Butler, incitant à une pause mondiale dans le développement de l’IA pour éviter des risques d’extinction. Cette prise de conscience moderne témoigne de la pertinence continue des idées de Butler.

Ce réseau Wi-Fi nommé « STINKY » mène la Marine à une antenne Starlink secrète dissimulée sur un navire de guerre américain

La vision de Butler dans le contexte technologique de son temps

Ce qui est particulièrement remarquable chez Butler, c’est sa capacité à extrapoler à partir des technologies de son époque. Au milieu du XIXe siècle, les machines les plus avancées étaient de simples calculateurs mécaniques et des règles à calcul. Pourtant, à travers ses écrits, Butler a reconnu le potentiel de ces machines à évoluer et à prendre des formes plus sophistiquées. Il a observé comment les montres avaient évolué à partir des horloges encombrantes du XIIIe siècle, et il a émis l’hypothèse que les espèces mécaniques pourraient également devenir plus petites et plus complexes avec le temps.

Dans son roman « Erewhon », publié en 1872, Butler a développé ces idées en décrivant une société fictive ayant banni la plupart des inventions mécaniques. Cette société avait détruit toutes les machines inventées au cours des 300 dernières années, illustrant les craintes de Butler quant à la dépendance croissante de l’humanité envers la technologie. Bien que certaines critiques aient interprété cela comme une satire de la théorie de l’évolution de Darwin, Butler a toujours affirmé son admiration pour le travail de Darwin.

Cette antenne Starlink cachée sur un navire américain soulève des inquiétudes majeures et pourrait déclencher une crise sur la sécurité maritime mondiale

Les débats contemporains autour de la sécurité de l’IA

161 Years Ago, a New Zealand Sheep Farmer Predicted AI Doom https://t.co/e6ltxsbTLL

— Slashdot (@slashdot) January 14, 2025

Les préoccupations de Butler ont persisté et se reflètent aujourd’hui dans les discussions sur la sûreté et la régulation de l’IA. En Californie, des législateurs ont proposé des lois pour réguler l’IA, soutenus par des personnalités que les critiques ont qualifiées de « AI doomers ». Ces personnes craignent que l’évolution incontrôlée de l’IA puisse aboutir à une domination des machines similaire à celle anticipée par Butler.

Toutefois, ces propositions sont controversées. Certains estiment qu’elles pourraient freiner l’innovation, ce qui rappelle la société fictive de Butler dans « Erewhon ». Pourtant, les appels à une pause dans le développement de l’IA, comme ceux vus en 2023, ressemblent étrangement à l’appel de Butler pour arrêter le progrès mécanique. Ces parallèles soulignent la complexité de concilier progrès technologique et supervision humaine adaptée.

Un appel à la prudence et à la réflexion

161 years ago, a New Zealand sheep farmer predicted AI doom
byu/insufficientmind insingularity

Samuel Butler, malgré le contexte technologique limité de son époque, a su anticiper des questions qui continuent de nous hanter. Ses écrits soulignent notre dépendance croissante aux machines et la nécessité d’une réflexion approfondie sur l’avenir de notre relation avec la technologie. Alors que les machines prennent une place de plus en plus centrale dans nos vies, il est crucial de nous demander : comment pouvons-nous équilibrer l’innovation et la sûreté ? Butler, avec sa vision prophétique, nous invite à réfléchir non seulement à ce que les machines peuvent faire pour nous, mais aussi à ce que nous voulons qu’elles fassent. L’avenir de notre coexistence avec les machines reste incertain, mais l’histoire nous rappelle de rester vigilants. Et vous, que pensez-vous de la place que devraient occuper les machines dans notre monde ?