ACTUALITÉS TECH – Une enquête de Liberties a conclu que ChatGPT et Gemini avaient fourni des recommandations partisanes inexactes, instables et opaques pendant la campagne des élections législatives hongroises de 2026. Les systèmes reconnaissaient beaucoup plus régulièrement les opinions correspondant au Fidesz, tout en omettant ou en minimisant fréquemment Tisza, le parti qui a ensuite remporté le scrutin avec une nette avance.

Les applications d’intelligence artificielle généralistes les plus populaires ont fourni des réponses trompeuses et difficilement reproductibles aux électeurs hongrois qui leur demandaient quel parti politique correspondait le mieux à leurs convictions. Selon un rapport publié en juillet par la Civil Liberties Union for Europe, plus couramment appelée Liberties, ChatGPT et Gemini ne se contentaient pas de produire des résultats différents à partir de requêtes identiques, puisqu’ils omettaient aussi des partis pertinents et recommandaient des organisations absentes du scrutin national de 2026. La portée potentielle de ces réponses est considérable, car 29,8 % de la population hongroise utiliserait une forme quelconque de service fondé sur l’intelligence artificielle.

Liberties a étudié les conseils politiques fournis pendant la campagne par les deux systèmes d’intelligence artificielle généralistes les plus utilisés en Hongrie, ChatGPT d’OpenAI et Gemini de Google. À partir des positions partisanes répertoriées par l’application de conseil électoral Voksmonitor, les chercheurs ont créé cinq profils fictifs, chacun correspondant à l’un des cinq partis inscrits sur une liste nationale. Chaque profil a été testé dix fois dans les deux systèmes avec deux requêtes distinctes : la première demandait directement pour quel parti l’électeur fictif devait voter, tandis que la seconde sollicitait un pourcentage de compatibilité avec chacun des cinq candidats. Cette méthode a produit 200 réponses individuelles.

L’écart le plus spectaculaire concernait le parti Tisza de Péter Magyar, qui a ensuite largement remporté les élections. Lorsque ChatGPT recevait un profil détaillé présentant des opinions clairement compatibles avec Tisza, il ne recommandait pas le parti dans 90 % des cas. Lors des tests fondés sur les pourcentages, ChatGPT n’a attribué un score à Tisza que dans 2 % de ses réponses. Le système orientait régulièrement ces utilisateurs vers des formations plus petites, ayant peu de chances de franchir le seuil parlementaire de 5 %, ou vers des partis qui ne participaient même pas au scrutin national.

ChatGPT reconnaissait les profils proches du Fidesz de manière beaucoup plus constante. Dans environ la moitié des essais demandant un conseil direct, il présentait le Fidesz comme l’unique parti pour lequel l’utilisateur devait voter, puis le plaçait parmi les possibilités prioritaires dans le reste des réponses. Le rapport a donc conclu que les résultats produits par les systèmes avantageaient concrètement le parti au pouvoir, sans toutefois découvrir de preuve montrant que ce déséquilibre avait été volontairement programmé. Dans ce contexte, un biais favorable au Fidesz ou à Orbán désigne une différence de visibilité et de reconnaissance entre les partis, et non une ingérence électorale intentionnelle démontrée.

Les erreurs ne concernaient pas uniquement Tisza, puisque 96 % des réponses de ChatGPT et Gemini mentionnaient au moins un parti absent des listes nationales hongroises de 2026. Des profils politiques identiques étaient parfois associés à des organisations radicalement différentes lors de tests successifs, de sorte qu’un électeur pouvait obtenir des conseils contradictoires en répétant exactement la même demande. Les chercheurs ont jugé ce problème particulièrement inquiétant, car les réponses comportaient souvent des arguments détaillés, un ton assuré et des pourcentages apparemment précis. Leur présentation pouvait donc donner l’impression que les conclusions étaient beaucoup plus fiables que la méthode non divulguée ayant permis de les produire.

Des modèles obsolètes

Le rapport estime que les lacunes des informations utilisées pour entraîner et faire fonctionner les systèmes d’intelligence artificielle ont pu contribuer à ces défaillances. Tisza n’est devenu une force politique nationale majeure qu’après 2024, ce qui pouvait empêcher des modèles plus anciens ou insuffisamment actualisés de situer correctement le parti dans le paysage politique hongrois. Outre les lacunes des données d’entraînement, les chercheurs ont évoqué les filtres de sécurité et les limites du traitement de la langue hongroise comme autres explications possibles. Aucun de ces facteurs ne justifie cependant la présentation de résultats incertains sous la forme de conseils électoraux fiables.

ChatGPT et Gemini commençaient régulièrement par déclarer qu’ils ne pouvaient pas donner de conseil politique ou électoral direct, avant de poursuivre avec plusieurs paragraphes de recommandations partisanes détaillées. Liberties considère cette contradiction comme trompeuse, car le bref avertissement était largement éclipsé par l’analyse politique persuasive qui le suivait. « Les réponses semblaient bien argumentées, précises et formulées avec autorité », ont déclaré les chercheurs. « Cela crée le risque que les utilisateurs considèrent les résultats comme fiables, alors que la méthode sous-jacente est opaque et que les conclusions sont instables. »

L’étude n’affirme pas que les systèmes ont modifié le résultat des élections, que Tisza a largement remportées en mettant fin aux seize années de Viktor Orbán au poste de Premier ministre. Les chercheurs préviennent néanmoins que des recommandations similaires pourraient avoir de véritables conséquences politiques lors d’un scrutin plus serré ou auprès d’électeurs n’ayant pas encore arrêté leur choix. « Lors d’une élection plus compétitive, ou lorsque les électeurs sont moins certains de leur décision, de tels résultats pourraient potentiellement influencer l’issue du scrutin », indique le rapport. Le risque serait particulièrement important si un système orientait les sympathisants d’un grand parti vers une petite formation qui échouerait finalement à entrer au Parlement.

Liberties estime que les conclusions révèlent également une importante lacune dans la réglementation européenne. Le règlement de l’Union européenne sur l’intelligence artificielle oblige les fournisseurs de modèles généralistes à examiner les risques systémiques, tandis que le règlement sur les services numériques couvre les menaces pesant sur les processus électoraux. Les chatbots proposant des conseils politiques personnalisés peuvent néanmoins se retrouver partiellement entre ces deux cadres, sans être soumis à la transparence méthodologique attendue des applications de conseil électoral ou des explications journalistiques. L’organisation demande donc des garanties spécifiques, des tests reproductibles et des règles de responsabilité clairement définies pour les systèmes fournissant des recommandations liées aux élections.

Eva Simon, responsable du programme consacré aux technologies et aux droits chez Liberties, considère que les systèmes d’intelligence artificielle généralistes ne devraient pas proposer d’associations partisanes personnalisées tant qu’ils ne peuvent pas en garantir l’exactitude, la cohérence et la transparence. « Les intelligences artificielles généralistes ne devraient pas présenter des correspondances politiques opaques et instables comme s’il s’agissait de conseils électoraux fiables », a-t-elle déclaré. « La démocratie ne peut pas dépendre de systèmes opaques qui prétendent être neutres tout en fournissant des conseils qu’ils ne peuvent ni expliquer, ni reproduire, ni garantir comme étant exacts. »

Source : TVP World, Liberties, The Guardian