TECH ACTUS – Même si les intelligences artificielles occidentales ne sont pas vraiment conçues pour défendre les valeurs fondamentales, ce n’est pas le cas en Chine.
Les entreprises technologiques chinoises ont également créé des chatbots. Mais elles bénéficient également d’une surveillance gouvernementale : le Financial Times a rapporté que les entreprises ont été soumises à des contrôles rigoureux pour garantir que leur IA est conforme aux valeurs socialistes fondamentales. Le Centre d’administration du cyberespace (CAC) chinois examine par exemple les modèles d’IA de ByteDance (TikTok) et d’AliBaba (AliExpress…) pour voir s’ils sont conformes aux règles de censure du pays.
Selon le Financial Times, de plus en plus de responsables de la cybersécurité se présentent dans les entreprises d’IA pour interroger les employés sur les grands modèles de langage (LLM), et de nombreux sujets politiquement sensibles sont également abordés pour s’assurer qu’ils disposent réellement de la technologie qu’ils souhaitent. Le massacre de la place Tiananmen, les mèmes parodiques sur le dirigeant chinois Xi Jinping, ou tout ce qui « porte atteinte à l’unité nationale » et « subvertit le pouvoir de l’État ».
Les robots IA ne sont pas faciles à vaincre, et le CAC ne donne pas toujours une explication claire des raisons pour lesquelles un chatbot a échoué. Les autorités ne veulent pas qu’IA parle beaucoup de politique, mais seulement cinq pour cent des requêtes sur le sujet peuvent être rejetées, ce qui rend les choses encore plus compliquées. Ainsi, certaines entreprises ont ajouté une couche à leur LLM qui remplace les réponses sensibles en temps réel, et d’autres ont simplement appliqué une interdiction aux requêtes liées à Xi.
L’Université de Fudan a créé la couche de sécurité. ByteDance est en tête du « taux de conformité » (66,4 %). Baidu (le remplaçant local de Google) et AliBaba sont loin derrière (respectivement 31,9 % et 23,9 %), même si cela reste bien meilleur qu’OpenAI, qui n’a obtenu que 7,1 %. Cela doit être dû au fait qu’il s’agit d’une technologie américaine et non nationale.
Pourtant, il est effrayant que le pays soit confronté à cela alors qu’il est confronté à un million d’autres problèmes.
Source : PCGamer, Financial Times
