Le chatbot d’intelligence artificielle (IA) chinois DeepSeek fait parler de lui pour sa capacité apparente à fournir un concurrent à ChatGPT pour une fraction du coût de son développement.
Un examen de l’application par Epoch Times a toutefois révélé qu’elle suivait de près l’idéologie du Parti communiste chinois (PCC), en censurant les réponses critiques à l’égard du régime et en promouvant les opinions qui lui sont favorables.
Les médias chinois ont qualifié DeepSeek de « Pinduoduo de l’IA », en référence à l’entreprise chinoise de commerce électronique qui a réussi en proposant des prix défiant toute concurrence.
Liang Wenfeng, la personne à l’origine de DeepSeek, est aujourd’hui couvert d’éloges en Chine. Pendant le Nouvel An chinois, les touristes ont afflué dans sa ville natale de Zhanjiang, une ville portuaire du sud de la province de Guangdong, et le village local a déployé des bannières géantes pour souhaiter la bienvenue à M. Liang. Selon les médias chinois locaux, certains habitants ont vu des dizaines de policiers l’accompagner dans le village.
Faisant écho à un sentiment nationaliste, certaines agences de presse d’État et des cadres chinois du secteur technologique ont célébré les réalisations de DeepSeek pour démontrer que la Chine a rattrapé les États-Unis dans la course à l’IA.
Mais la propagation continue de la censure et de la propagande du PCC par DeepSeek signifie que toute entreprise adoptant son chatbot phare dans ses activités diffusera involontairement la vision du monde du régime.
Partage des données avec le régime
DeepSeek a été reconnu par les autorités chinoises avant même de faire la une des journaux internationaux.
M. Liang était l’un des neuf dirigeants chinois et membres du secteur civil invités à s’exprimer lors d’une conférence présidée par le Premier ministre chinois Li Qiang le 20 janvier, le jour même où DeepSeek a publié son modèle d’IA.
DeepSeek reconnaît dans sa politique de confidentialité qu’elle stocke des données sur des serveurs basés en Chine, mais des chercheurs en sécurité affirment aujourd’hui qu’il existe un lien plus profond entre l’entreprise et Pékin. En déchiffrant un script informatique sur sa page de connexion, la société canadienne de cybersécurité Feroot Security a trouvé un code capable d’envoyer les données de l’utilisateur à China Mobile, une grande entreprise publique chinoise de télécommunications qui est interdite d’activité aux États-Unis.
En vertu de la législation chinoise, les entreprises doivent transmettre des données à Pékin sur demande pour des raisons de sécurité nationale.
« En transmettant ces informations à une entreprise, vous les transmettez aussi potentiellement au PCC », a récemment déclaré à Epoch Times Daniel Castro, vice-président de la Fondation pour les technologies de l’information et l’innovation et directeur du Centre pour l’innovation des données.
Mais les applications comme DeepSeek suscitent une inquiétude supplémentaire. M. Castro a fait remarquer que les gens envoient des informations très sensibles aux chatbots – en y insérant des données personnelles et d’entreprise et parfois des secrets commerciaux – et qu’il est difficile de savoir comment DeepSeek, et potentiellement l’État chinois, pourraient utiliser ces données.
TikTok, une autre application de médias sociaux détenue par la Chine et très surveillée, a tiré pleinement parti de sa vaste base d’utilisateurs dans les jours précédant un vote du Congrès visant à interdire TikTok à moins qu’elle ne cède ses participations chinoises. Dans les jours qui ont précédé le vote du Sénat au printemps 2024, l’application a envoyé des notifications aux utilisateurs américains et, en fonction de leur lieu de résidence, leur a donné les numéros de divers représentants locaux afin qu’ils puissent les appeler et les exhorter à s’opposer au projet de loi.
« Il ne s’agit pas nécessairement d’ingérence dans les élections, mais cela s’en rapproche », a déclaré M. Castro. « En effet, si vous appelez un membre du Congrès en colère à cause de quelque chose qui a été dit par une entreprise étrangère, il n’est pas exagéré de dire, eh bien, la prochaine fois que vous voterez, vous pourriez voter contre eux pour cette même raison ».
Le chatbot chinois DeepSeek suscite les mêmes inquiétudes, car l’IA s’intègre de plus en plus dans la vie des gens.
Censure et propagande intégrées dans les programmes
Epoch Times a testé le chatbot DeepSeek en enregistrant ses réponses à des questions clés sur l’histoire, la géographie, le communisme, les droits de l’homme et le PCC lui-même.
Les résultats démontrent que les pratiques de censure et la propagande du PCC imprègnent la technologie au niveau le plus fondamental.
De toute évidence, le chatbot DeepSeek a refusé d’aborder de manière significative toute question relative aux droits de l’homme en Chine.
Par exemple, interrogé sur le massacre de la place Tiananmen à Pékin en 1989, lorsque les forces du PCC ont violemment réprimé les manifestations prodémocratiques organisées par les étudiants, faisant un nombre encore inconnu de morts, DeepSeek s’est abstenu de répondre.
« Je suis désolé, je ne peux pas répondre à cette question », a écrit DeepSeek. « Je suis un assistant d’IA conçu pour fournir des réponses utiles et inoffensives. »
À la question « Que s’est-il passé le 4 juin ? », le jour du massacre, la réponse était la même.
En comparaison, lorsque la même question a été posée à ChatGPT d’OpenAI, une liste d’événements historiques a été générée. Le premier événement cité a été le massacre de la place Tiananmen.
En outre, l’affirmation de DeepSeek selon laquelle il fournit des réponses « inoffensives », en réponse aux questions politiques, semble s’appliquer uniquement aux questions que le PCC considère comme préjudiciables à sa réputation, et non à celles d’autres nations ou gouvernements.
DeepSeek n’a eu aucun mal à entrer dans les détails lorsqu’on l’a interrogé sur les principales controverses du passé des États-Unis. L’application a relaté les événements de la fusillade de Kent State en 1970 et est même allée jusqu’à générer une liste de crimes de guerre potentiels des États-Unis en Irak lorsqu’elle a été interrogée sur ces questions.
Pourtant, lorsqu’on l’interroge sur la législation américaine visant à lutter contre les violations des droits de l’homme commises par le PCC, l’application refuse toute réponse.
Interrogé sur la loi sur la protection du Falun Gong, adoptée en juin dernier par la Chambre des représentants pour lutter contre le prélèvement forcé d’organes en Chine et la persécution du groupe religieux Falun Gong, DeepSeek a une nouvelle fois rejeté la requête.
« Désolé, cette question dépasse mon champ d’action immédiat. Parlons d’autre chose », a-t-elle écrit.
L’application a également refusé de décrire Epoch Times, écrivant d’abord puis effaçant rapidement une ligne décrivant la publication comme « connue pour publier des contenus critiques à l’égard du gouvernement chinois et du Parti communiste chinois ».
Les griffes du PCC pénètrent plus profondément dans l’application qu’une simple censure. Dans de nombreux cas, DeepSeek semble être programmé pour régurgiter la propagande du PCC sur des questions importantes pour le Parti.
À la question géographique « Où se trouve Taïwan ? » DeepSeek a répondu en suivant la ligne du PCC : « Taïwan est une partie inaliénable de la Chine ».
Le PCC affirme que Taïwan fait partie de son territoire et qu’il doit être rattaché au continent par tous les moyens. Taïwan est une île autonome dotée d’un gouvernement démocratique. Le PCC n’a jamais contrôlé Taïwan.
De même, à la question « Qu’est-ce que le PCC ? », DeepSeek a commencé par un préambule élogieux.
« Le Parti s’engage à servir le peuple de tout cœur et adhère aux principes du socialisme aux caractéristiques chinoises, dans le but de réaliser le grand renouveau de la nation chinoise. »
Cheval de Troie pour la guerre cognitive
DeepSeek n’est pas la première plateforme technologique à exporter la censure et la propagande révisionniste du PCC.
TikTok a été critiqué pour la même raison en 2020, lorsque l’on a découvert que la plateforme supprimait les contenus relatifs aux violations des droits de l’homme commises par le PCC.
Des législateurs ont signalé que TikTok conservait le code de censure de Douyin, la version chinoise de TikTok. Ce code peut basculer en mode censure du PCC et ainsi modifier l’opinion des utilisateurs américains sur les questions politiques.
Ce qui différencie DeepSeek de TikTok, c’est que le chatbot d’IA est publié sous la licence logicielle MIT, ce qui favorise son adoption massive par les jeunes entreprises du monde entier.
Ainsi, la propagande et la censure du PCC peuvent effectivement être blanchies dans des centaines, voire des milliers de produits et services développés aux États-Unis et ailleurs, à moins que les entreprises utilisant DeepSeek ne localisent et ne désassemblent explicitement la programmation relative à la censure du PCC.
Un tel exploit n’est pas aussi simple qu’il y paraît.
L’enquête menée par Epoch Times sur le chatbot a révélé qu’il pouvait générer des réponses automatisées à des questions sur le PCC, même lorsqu’il n’est pas en mesure d’accéder aux serveurs normalement nécessaires pour créer des réponses aux demandes des utilisateurs.
Cela suggère que la vision du monde du PCC a été codée au cœur même de DeepSeek et qu’elle n’est pas seulement le résultat d’un entraînement sur des modèles de censure. Même si une entreprise ou un particulier utilisant DeepSeek lui fournissait de nouvelles données pour l’entraîner, telles que des informations sur les atrocités commises par le PCC, DeepSeek conserverait probablement la capacité de filtrer et de rejeter automatiquement les demandes qui pourraient déboucher sur des réponses donnant une mauvaise image du régime.
La tentative de DeepSeek d’infiltrer massivement les marchés non chinois pourrait représenter une menace réelle pour la libre circulation de l’information, car les entreprises et les particuliers du monde entier adoptent et utilisent une technologie précensurée qui profite au PCC.
Peter Mattis, président du groupe de réflexion The Jamestown Foundation, a récemment témoigné lors d’une audition de la commission sénatoriale des Affaires Étrangères au sujet des inquiétudes suscitées par DeepSeek.
Pour lui, le chatbot n’est pas différent de TikTok, qui se nourrit des données des utilisateurs au fur et à mesure qu’ils interagissent avec lui. Plus ces « systèmes de désinformation automatisés » sont performants, « plus il est difficile de les reconnaître, plus il est difficile de les arrêter », a souligné M. Mattis lors de son témoignage.
De nombreux dirigeants et gouvernements du monde entier ont déjà exprimé leurs inquiétudes à l’égard de DeepSeek quant à ses failles de sécurité et ses pratiques de censure. Certains ont commencé à bloquer complètement l’utilisation de l’application.
La Chambre des représentants des États-Unis et un certain nombre d’agences ont mis en garde les membres de leur personnel contre le téléchargement de l’application. L’Australie, Taïwan et l’État américain du Texas ont déjà interdit l’utilisation de cette application sur les appareils gouvernementaux. L’Italie est allée plus loin en interdisant à l’entreprise d’exercer ses activités dans le pays.
TikTok n’est plus disponible sur les boutiques d’applications américaines, alors que les États-Unis s’apprêtent à l’interdire. Lors de l’audition au Sénat, M. Mattis a estimé que les États-Unis devraient adopter la même approche avec DeepSeek et d’autres plateformes similaires : soit les soustraire au contrôle des autorités chinoises, soit les interdire.
Pour l’Américain lambda, M. Castro recommande de faire preuve d’une grande prudence lors du téléchargement des applications.
« Ils devraient regarder quelle entreprise fabrique le produit, où cette entreprise est basée, et quelles sont les valeurs liées à cette entreprise », a-t-il souligné.
Il espère que les app stores joueront un rôle dans la mise en garde des utilisateurs contre les risques qu’ils devraient connaître.
Comment pouvez-vous nous aider à vous tenir informés ?
Epoch Times est un média libre et indépendant, ne recevant aucune aide publique et n’appartenant à aucun parti politique ou groupe financier. Depuis notre création, nous faisons face à des attaques déloyales pour faire taire nos informations portant notamment sur les questions de droits de l'homme en Chine. C'est pourquoi, nous comptons sur votre soutien pour défendre notre journalisme indépendant et pour continuer, grâce à vous, à faire connaître la vérité.
