Interdire l’intelligence artificielle chinoise en commençant par DeepSeek

Le dernier modèle R1 de DeepSeek – l’agent conversationnel (chatbot) d’intelligence artificielle chinoise – devient vite de plus en plus populaire. Plus de 10 millions d’utilisateurs de Google l’ont déjà téléchargé. Toutefois, ils peuvent s’attendre à être exposés à la manipulation et à la propagande de l’État-parti chinois, et que leurs données personnelles soient stockées en Chine.

De plus, l’intelligence artificielle (IA) de cette application pourrait aider certains criminels ou terroristes à trouver des informations dangereuses, par exemple sur les armes biologiques et la cybercriminalité.

Le 27 janvier, DeepSeek a déjà provoqué à Wall Street une chute de plus de 1000 milliards de dollars de valeur d’actions liées à l’IA, notamment des entreprises spécialisées dans les infrastructures, les semi-conducteurs et l’énergie. Et pourquoi ?

DeepSeek annonçait avoir lancé un chatbot que les entreprises américaines d’IA produisaient déjà, mais avec beaucoup moins de formation à l’IA et pour une fraction du coût. Cette affirmation a semé la panique parmi les investisseurs dans le domaine de l’IA. Si DeepSeek peut faire cela, alors, selon le raisonnement, les entreprises qui alimentent l’IA avec des puces, de l’énergie et des infrastructures ont été surévaluées.

Cependant, il s’avère que DeepSeek aurait exagéré l’efficacité de son régime de formation à l’IA. La société américaine OpenAI et le conseiller en IA de l’administration Trump ont suggéré que DeepSeek aurait pu accéder de manière inappropriée au contenu d’OpenAI, avec lequel la société chinoise aurait « distillé » son chatbot. En outre, Washington cherche à savoir si DeepSeek a contourné les contrôles américains sur les exportations de puces d’IA en les achetant par l’intermédiaire de Singapour.

DeepSeek aurait débuté ses activités avec High Flyer, un fonds spéculatif fondé et contrôlé par Liang Wenfeng. À un moment donné, High Flyer a accumulé un portefeuille de 13,79 milliards de dollars en utilisant l’IA pour guider ses décisions d’investissement. En 2021, il a acquis 10.000 puces Nvidia A100 pour commencer la formation de son propre IA. L’année suivante, Washington a interdit l’exportation de ces puces et d’autres puces plus puissantes vers la Chine.

En 2023, High Flyer a néanmoins commencé à se concentrer sur l’intelligence artificielle générale (AGI), une étape importante lorsque l’IA dépasse l’intelligence humaine pour la plupart des activités économiques. Selon un rapport publié le 6 janvier, le chatbot de DeepSeek dispose d’une capacité de calcul bien plus importante que ce qui avait été reconnu précédemment. Le rapport cite une source selon laquelle ce chatbot possède 50.000 puces H100, soit bien plus que ce qu’il reconnaît publiquement. DeepSeek n’aurait pas divulgué ces puces – dont chacune est environ trois fois plus puissante qu’une A100 – en raison des contrôles américains à l’exportation. Cependant, même 50.000 H100 représentent une quantité bien inférieure à celle de certains de ses concurrents. À titre de comparaison, Meta utilise l’équivalent de 600.000 puces H100.

DeepSeek a d’autres problèmes. Il comprendrait un code secret qui renvoie des données personnelles en Chine où, selon la loi chinoise sur le renseignement, le régime peut les utiliser à sa guise. De plus, DeepSeek propage la propagande, influence la perception des utilisateurs et refuse de dire quoi que ce soit critique sur le Parti communiste chinois (PCC). Ainsi, plus DeepSeek prolifère, plus le PCC avance sa ligne directrice.

Selon les chercheurs en sécurité d’Anthropic et de Cisco, DeepSeek présente des caractéristiques de sécurité minimales. Leurs tests indiquent que ce chatbot est particulièrement vulnérable aux « jailbreaks » – à la manipulation visant à divulguer des informations dangereuses par le biais de l’IA. Attendez que TikTok permette aux utilisateurs de créer leurs posts en utilisant DeepSeek. Nous aurons alors tous de gros problèmes.

Compte tenu de ces risques et d’autres risques liés à l’IA, la réaction raisonnable des régulateurs et des législateurs du monde entier serait d’interdire DeepSeek. Pourtant, seule l’Italie a totalement interdit cette application. DeepSeek n’a pas répondu de manière adéquate aux questions posées par les régulateurs italiens sur les types de données personnelles collectées et si ces données sont stockées en Chine. DeepSeek aurait déclaré ne pas être soumis à la juridiction de l’Italie, aux régulateurs locaux ou à l’obligation de fournir des informations.

L’Inde, l’Australie, le Canada et la Corée du Sud ont interdit cette application sur les appareils gouvernementaux, mais autorisent toujours les téléchargements sur les appareils commerciaux et privés. En Amérique, une loi est en cours d’élaboration pour l’interdire, mais uniquement sur les appareils appartenant au gouvernement. La France et l’Irlande examinent DeepSeek sous l’angle de la protection de la vie privée, mais ne l’ont pas encore interdite.

Il n’y a pas beaucoup de temps à perdre. Vu les dangers multiplicatifs des applications chinoises qui interagissent avec l’IA, les législateurs occidentaux devraient interdire non seulement DeepSeek, mais aussi toutes les applications provenant de la Chine et d’autres nations adverses – et ce, jusqu’à ce qu’il soit prouvé qu’elles sont sûres. Cette interdiction devrait également s’appliquer au partage des technologies d’IA avec des entreprises chinoises, y compris par l’intermédiaire de canaux open source comme GitHub.

Compte tenu de la difficulté d’interdire TikTok après avoir laissé sa popularité croître trop longtemps, nous ne pouvons plus bénéficier d’une présomption d’innocence lorsqu’il s’agit de technologies contrôlées par le PCC et d’autres acteurs malveillants. Le jeu du chat et de la souris ne marche pas lorsque les souris se transforment vite en mastodontes.

Les opinions exprimées dans cet article sont celles de l’auteur et ne reflètent pas nécessairement celles d’Epoch Times.