Selon Rex Lee, conseiller en cybersécurité chez My Smart Privacy, un chatbot d’IA tel que ChatGPT pourrait devenir une véritable menace s’il était contrôlé par une puissance oppressive comme la Chine ou la Russie.
Il rappelle la récente remarque de l’informaticien britannique Geoffrey Hinton, le « parrain de l’IA », qui a récemment quitté son poste de vice-président et de chargé d’études chez Google.
Dans une interview accordée au New York Times, M. Hinton a tiré la sonnette d’alarme quant à la capacité de l’intelligence artificielle (IA) à créer de fausses images, de fausses photos et de faux textes au point que l’individu moyen « ne sera plus capable de savoir ce qui est vrai ».
M. Lee s’est fait l’écho de cette inquiétude en déclarant : « Il est légitime de s’inquiéter de la capacité de l’IA ChatGPT, ou de l’IA en général, à diffuser des informations erronées et de la désinformation sur l’internet. »
« Mais imaginons maintenant un gouvernement en charge de cette technologie ou des gouvernements oppressifs comme la Chine ou la Russie avec cette technologie. Là encore, elle est entraînée par des humains. À l’heure actuelle, ce sont des humains motivés par le profit qui forment cette technologie avec Google et Microsoft. Mais aujourd’hui, si l’on y ajoute un gouvernement, la menace devient beaucoup plus grande », a déclaré M. Lee à l’émission « China in Focus » de NTD, le média partenaire d’Epoch Times.
Il s’est inquiété du fait qu’avec la facilitation de l’IA, le Parti communiste chinois (PCC) puisse exacerber ses pratiques de violation des droits de l’homme.
« Si l’on considère que l’IA est entre les mains d’un gouvernement, comme la Chine et le PCC, et que l’on imagine qu’ils programment la technologie pour opprimer ou supprimer les droits de l’homme, ainsi que pour censurer des articles et identifier les dissidents sur l’internet, etc. afin de pouvoir trouver ces personnes et les arrêter, alors cela devient une énorme menace », a-t-il déclaré.
Selon M. Lee, la technologie de l’IA pourrait également permettre au régime communiste d’intensifier sa campagne de désinformation sur les médias sociaux aux États-Unis à une vitesse sans précédent.
« Imaginez que vous ayez plus de 100 millions d’utilisateurs de TikTok aux États-Unis qui sont déjà influencés par la Chine et le PCC par l’intermédiaire de la plateforme. Imaginez maintenant qu’ils soient influencés à la vitesse d’un avion à réaction — si vous ajoutez l’IA, ils peuvent être influencés à la vitesse de la lumière. Maintenant, vous pouvez toucher des millions de personnes, véritablement des milliards de personnes, littéralement en quelques secondes avec cela et la désinformation qui peut être diffusée », a-t-il déclaré.
« Et c’est là que cela devient très effrayant… comment cela peut être utilisé politiquement et/ou par de mauvais acteurs, y compris les cartels de la drogue et les acteurs criminels qui peuvent également avoir accès à la technologie », a-t-il ajouté.
Suppression d’emplois
M. Lee a souligné que M. Hinton s’était également inquiété de la centralisation de l’IA dans les grandes entreprises technologiques.
« L’une de ses préoccupations était que Microsoft avait lancé l’IA ouverte ChatGPT, avant le Bark de Google, qui est leur chatbot, et il avait l’impression que Google se précipitait sur le marché pour concurrencer Microsoft », a déclaré M. Lee.
« Cette technologie peut éliminer et éliminera de nombreux emplois, ce qui est de plus en plus préoccupant », a-t-il déclaré, ajoutant que l’IA peut éliminer des emplois « qu’un chatbot informatique automatisé peut remplir des tâches, principalement dans le domaine du service à la clientèle, mais aussi dans celui de la programmation informatique ».
Atténuer les menaces
M. Lee a défini le ChatGPT comme « un transformateur généré et pré-entraîné », qui, selon lui, est « essentiellement le transformateur, programmé et entraîné par des humains « .
Il estime donc que les facteurs humains constituent la principale préoccupation.
« Au fond, l’IA est comme un nouveau-né ; elle peut être programmée pour le bien, tout comme un enfant. Si les parents élèvent cet enfant avec beaucoup d’amour, d’attention et de respect, l’enfant grandira dans l’amour, l’attention et le respect. Mais s’il est élevé comme un animal sauvage, à l’état sauvage, en laissant l’IA apprendre d’elle-même sur l’internet sans aucun contrôle ni paramètre, on ne sait pas ce que l’on va obtenir », a-t-il déclaré.
Pour atténuer une telle menace, M. Lee a suggéré que les régulateurs qui comprennent l’IA à un niveau granulaire travaillent avec ces entreprises pour voir comment elles la programment et quels algorithmes sont utilisés pour la programmer.
« Elles doivent s’assurer qu’elles le forment avec les bons paramètres pour qu’il ne devienne pas un danger non seulement pour elles, mais aussi pour leurs clients.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.
