Le cofondateur de Microsoft, Bill Gates, a répondu à une proposition défendue par Elon Musk et de nombreux experts en intelligence artificielle d’instaurer un moratoire dans le domaine du développement des formes avancées d’IA, citant les « risques considérables » qui pèsent « sur la société et l’humanité. »
Dans une interview accordée à Reuters, Bill Gates estime qu’un tel moratoire ne « résoudrait pas les problèmes » que l’IA soulève. Il serait non seulement difficile à mettre en œuvre à l’échelle mondiale mais selon lui les raisons d’un tel moratoire ne seraient même pas clairement établies.
La semaine dernière, Elon Musk a apposé sa signature à une lettre ouverte publiée par Future of Life Institute, un organisme américain à but non lucratif, qui accuse les laboratoires d’IA d’etre dans une « course folle » au développement de « cerveaux numériques de plus en plus puissants ». La lettre ouverte rappelle que notre compréhension de ces systèmes reste partielle et que la question du contrôle de son contrôle est particulièrement incertaine.
Plus de 10.000 signataires ont soutenu cette initiative, dont Steve Wozniak, cofondateur d’Apple, ainsi que des ingénieurs de Meta et de Google. Ils appellent tous les laboratoires d’IA à « suspendre immédiatement » tout développement de systèmes encore plus puissants que Chat GPT-4 pour une durée d’au moins six mois.
La lettre ouverte ne demande pas un arrêt général du développement de l’IA, et ne cible que les systèmes les plus avancés, dans une démarche que les experts décrivent comme une nécessaire « prise de recul face à la course folle vers des modèles de boîte noire imprévisibles toujours plus grands et dotés de capacités évolutives ».
Des répercussions « catastrophiques » sur la société
Les experts pensent que les systèmes d’IA qui sont dotés d’une intelligence capable de rivaliser avec celle des humains présentent des « risques considérables pour la société et l’humanité » et prônent un encadrement strict et la plus grande des prudences face à des répercussions potentiellement « catastrophiques » pour le monde et la population.
« Maintenant que nous avons réussi à créer des systèmes d’IA puissants, nous pouvons profiter de cette phase pour nous poser et récolter les fruits de nos efforts. Nous pouvons faire de ces systèmes quelque chose de bénéfique pour tout le monde et aider notre société à s’y adapter », expliquent les experts.
« Notre société a mis en pause certaines autres technologies par le passé, dont les effets pouvaient potentiellement être catastrophiques. Nous pouvons faire de même ici. Profitons des fruits de nos investissements plutôt que de nous précipiter les yeux fermés vers un futur incertain », expliquent-ils.
Ils appellent les laboratoires d’IA et les experts indépendants à mettre en place un moratoire de six mois et proposent de discuter collectivement d’un ensemble de protocoles de sécurité afin de garantir que ces systèmes sont « sûrs au-delà de tout doute raisonnable ».
Dans son entretien avec Reuters, Bill Gates a exprimé son désaccord face à cette initiative et a suggéré une approche différente.
« Je ne pense pas que le fait de demander à un groupe particulier de faire une pause résoudra les problèmes », explique-t-il. « Ce qu’il faut faire, c’est identifier les domaines sensibles ».
Bill Gates a expliqué préférer une approche plus chirurgicale des choses, et propose d’identifier à priori les domaines où les risques sont les plus marquées, puis de discuter ensemble de la façon la plus appropriée d’y remédier. Il émet des doutes sur la possibilité de faire respecter toute interdiction de mener des recherches en IA.
« Je ne comprends pas vraiment qui selon eux serait en mesure de dire stop, ni même si tous les pays du monde seraient d’accord, ni pourquoi il faudrait dire stop », explique-t-il à Reuters. « Mais il y a beaucoup d’opinions différentes dans ce domaine. »
Microsoft est actuellement à l’avant-garde du développement de l’IA, et a investi des milliards de dollars dans OpenAI, le créateur de ChatGPT et de sa version la plus avancée, GPT-4.
Bien que Gates n’ait pas précisé les « domaines sensibles » qui mériteraient un examen plus approfondi, dans un récent billet de blog il aborde la question de la « possibilité que les IA deviennent incontrôlables » et deviennent une menace pour les humains.
Il a également reconnu qu’il était possible que des IA super intelligentes ou « fortes » puissent, dans le futur, se fixer des objectifs qui vont à l’encontre des intérêts du genre humain.
En désaccord avec la position de Bill Gates, un chercheur reconnu dans ce domaine, Eliezer Yudkowsky, estime que les systèmes super intelligents pourraient avoir pour conséquence l’anéantissement total de la civilisation.
« De nombreux chercheurs spécialisés dans ces questions, dont moi-même, pensent que le résultat le plus probable d’une IA qui dépasse l’intelligence humaine, dans des conditions qui ressemblent de près ou de loin à ce qui se passe en ce moment, c’est la destruction complète de tous les habitants de la Terre », comme il l’explique dans un article d’opinion publié dans le magazine Time.
Arrêtez tout !
Bill Gates s’est toujours montré optimiste à l’égard de la technologie de l’IA. Il y voit un moyen de résoudre les problèmes, petits et grands, locaux et mondiaux, comme il l’explique dans un billet de blog publié la veille de la lettre ouverte soutenue par Elon Musk.
« Le développement de l’IA est aussi fondamental que la création du microprocesseur, de l’ordinateur personnel, de l’internet et du téléphone portable », écrit-il. « Elle changera la façon dont les gens travaillent, apprennent, voyagent, se soignent et communiquent entre eux. Des industries entières se redéfiniront autour d’elle ».
Il a ajouté que l’IA pourrait potentiellement réduire « certaines des pires inégalités du monde », comme les enfants des pays du tiers-monde qui meurent de causes évitables telles que la diarrhée ou le paludisme.
« Le changement climatique est un autre domaine dans lequel je suis persuadé que l’IA peut rendre le monde plus équitable », écrit Bill Gates, qui s’est fait l’avocat de la lutte contre le réchauffement climatique, recommandant même aux Américains de « passer au bœuf 100 % synthétique ».
Alors que lui et d’autres affirment depuis longtemps que le remplacement de la viande réelle par des variétés végétales ou cultivées en laboratoire aurait des effets bénéfiques sur le changement climatique, des organisations telles que l’Alliance mondiale pour la justice alimentaire (Global Food Justice Alliance – GFJA) expriment des avis contraires.
« Bon nombre des solutions alimentaires écologiques proposées, y compris les substituts de viande ultra-transformés, peuvent sembler bon pour la planète (…) mais lorsqu’on les examine de près, elles sont en fait le résultat d’une agriculture extractive et chimique qui dégrade encore plus nos sols et nos cours d’eau », peut-on lire sur son site web.
Ils citent une étude selon laquelle l’élimination de tout le bétail du système alimentaire américain ne réduirait les émissions de gaz à effet de serre que de 2,6 %.
Selon M. Yudkowsky les dangers que pose cette technologie l’emportent sur les avantages.
« Nous ne sommes pas prêts. Nous sommes loin d’être prêts. Si nous poursuivons dans cette voie, toute la population terrestre mourra, y compris des enfants qui n’ont rien demandé et qui n’ont rien fait de mal », écrit-il.
« Arrêtons ça « .
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.