John Hopfield, scientifique américain tout juste lauréat du Nobel de physique pour ses travaux pionniers sur l’intelligence artificielle (IA), a déclaré mardi qu’il trouvait les récentes avancées technologiques « très inquiétantes » et a mis en garde contre une possible catastrophe si elles ne sont pas maîtrisées.
Professeur émérite à l’Université de Princeton, il a appelé à une meilleure compréhension du fonctionnement de ces systèmes, afin d’éviter qu’ils ne deviennent incontrôlables.
#UofT Professor Emeritus Geoffrey Hinton has won the 2024 Nobel Prize for Physics.
Hinton shares the prize with John J. Hopfield “for foundational discoveries and inventions that enable machine learning with artificial neural networks.” #NobelPrize https://t.co/NkWyAwi3eZ pic.twitter.com/9RKxGTeinR
— University of Toronto (@UofT) October 8, 2024
« Des technologies qui ne sont pas uniquement bonnes ou mauvaises »
S’adressant à une assemblée de l’Université du New Jersey par vidéo depuis la Grande-Bretagne, le chercheur de 91 ans a déclaré qu’au cours de sa vie il avait assisté à l’essor de deux technologies puissantes mais potentiellement dangereuses : le génie biologique et la physique nucléaire.
« Nous sommes habitués à des technologies qui ne sont pas uniquement bonnes ou mauvaises, mais qui peuvent aller dans les deux sens », a-t-il déclaré.
« En tant que physicien, je suis très troublé par quelque chose qui n’est pas contrôlé, quelque chose que je ne comprends pas assez bien pour savoir quelles sont les limites que l’on peut imposer à cette technologie », a-t-il ajouté. « C’est la question que pose l’IA », a-t-il poursuivi. Même si les systèmes d’IA modernes semblent être des « merveilles absolues », leur fonctionnement est encore mal compris, ce qui est « très, très inquiétant » selon lui.
« C’est pourquoi moi-même, tout comme je pense Geoffrey Hinton (co-lauréat du Nobel, ndlr), préconisons fortement une meilleure compréhension » a-t-il poursuivi, ajoutant que le domaine allait « développer des capacités qui dépassent celles que vous pouvez imaginer à l’heure actuelle ».
Course féroce déclenchée entre les entreprises
Avec l’essor fulgurant de l’intelligence artificielle et la course féroce déclenchée entre les entreprises, les critiques pointent que cette technologie évolue plus vite que les scientifiques ne peuvent le comprendre.
« Vous ne savez pas si quelque chose de spontané mais non désiré se cache dans les travaux », a relevé John Hopfield.
Il a évoqué l’exemple de la « glace-neuf », un matériau imaginaire inventé par l’auteur de science-fiction Kurt Vonnegut dans son livre de 1963 Le Berceau du chat. Développée pour aider les soldats forcés d’évoluer dans la boue, elle provoque accidentellement la solidification des océans, causant la perte de la civilisation humaine.
« Je m’inquiète de tout ce qui dit… “Je suis plus rapide que toi, je suis plus grand que toi” », a déclaré John Hopfield.
Au cours de questions réponses avec l’Université de Toronto ce 8 octobre, Geoffrey Hinton a pointé du doigt Sam Altman, un des fondateurs d’OpenAI, rapporte BFMTV. « OpenAI a été mis en place avec un fort accent sur la sécurité. Le premier objectif était de développement une intelligence artificielle générale et de garantir qu’elle serait sûre », a affirmé John Hopfield. « Avec le temps, il s’est avéré que Sam Altman était beaucoup moins préoccupé par la sécurité que par les profits. Et je pense que c’est dommage », a-t-il ajouté relatant le licenciement de M. Altman d’OpenAI, par la suite réintégré sous la pression des employés et des actionnaires.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.
