ACTULITÉS TECH – Selon les recherches de l’entreprise, le pays aurait tenté d’influencer les réseaux sociaux, ciblant journalistes et politiciens.
OpenAI a révolutionné l’intelligence artificielle avec ChatGPT. L’entreprise a parcouru un long chemin : ses services sont intégrés dans de nombreux domaines, de la santé à l’éducation. Toutefois, OpenAI affirme avoir identifié et stoppé plusieurs campagnes malveillantes et secrètes, présumées liées à la Chine et visant à influencer l’opinion publique. L’essor de l’IA et sa généralisation suscitent de plus en plus d’inquiétudes quant à l’utilisation responsable de ces outils, plaçant une responsabilité accrue sur OpenAI pour garantir une IA éthique.
Même avec des efforts importants, la technologie est souvent détournée à des fins inappropriées. OpenAI a récemment partagé avoir détecté et interrompu plusieurs campagnes sur les réseaux sociaux utilisant ChatGPT à des fins de propagande, supposément liées à la Chine. Dix opérations ont été stoppées, dont quatre en lien avec la Chine. Il s’agissait de créer des publications à caractère politique avec ChatGPT et de participer à diverses plateformes en ligne sous de fausses identités pour influencer l’opinion publique. Une opération nommée Uncle Spam visait à écrire des messages polémiques sur des sujets sensibles aux États-Unis. Selon OpenAI, ce n’est pas la première fois que sa technologie est utilisée de manière illégale : d’autres pays comme la Russie, l’Iran ou la Corée du Nord ont aussi été cités.
Selon NPR, les abus de ChatGPT vont plus loin : non seulement ils créaient des posts de propagande, mais ils les amélioraient aussi pour les rendre plus crédibles et accessibles. Cela pose question quant à l’influence réelle sur la communauté. L’outil a également servi à générer des rapports sur la façon dont le chatbot a été utilisé. Les propagandistes chinois utilisent ChatGPT pour rédiger des posts et des commentaires sur les réseaux sociaux – ainsi que des bilans de performances détaillant leur travail pour leurs supérieurs.
Ben Nimmo, principal enquêteur du pôle Intelligence et Investigations d’OpenAI, a déclaré que l’on observe de plus en plus d’opérations secrètes chinoises, aux tactiques variées. Une de ces opérations incluait la création d’e-mails via ChatGPT à destination d’analystes, de journalistes et de politiciens, afin d’établir des contacts sous de faux prétextes et de collecter des informations.
L’utilisation stratégique de l’IA à des fins de manipulation et de transgression éthique est inquiétante ; les entreprises doivent rester vigilantes et agir rapidement.
