TECH ACTUS – Dans une Chine devenue de plus en plus dystopique, ce à quoi nous nous attendions depuis un certain temps s’est produit : l’utilisation de l’intelligence artificielle s’est avérée nocive, et le résultat est la prison.

Le South China Morning Post a a rapporté que la police chinoise a arrêté un homme qui aurait utilisé ChatGPT pour créer une fausse nouvelle et la diffuser en ligne. Ce pourrait être la première fois que quelqu’un est emprisonné pour avoir utilisé l’intelligence artificielle. Les poignets de l’homme ont été menottés dans la province du Gansu, dans le nord-est du pays, et la police n’a révélé que son nom de famille (Hong). Selon un communiqué de la police, il “a utilisé l’intelligence artificielle pour concocter des informations fausses et mensongères”.

L’article de Hong a fait surface le 25 avril et affirmait à tort qu’un accident de train local s’était produit dans lequel neuf personnes avaient été tuées. Selon les responsables de la cybersécurité, il a été publié sur plus de 20 comptes sur une plateforme de microblogging, Baijiahao (dirigé par l’équivalent local de Google, Baidu), et lu par au moins 15 000 personnes. Il s’agit de la première arrestation en Chine depuis la promulgation de la loi sur l’intelligence artificielle et les deep fakes en janvier. Les dispositions administratives sur la synthèse approfondie pour les services d’information sur Internet ciblent les technologies qui génèrent du texte, des images, de l’audio ou de la vidéo et mentionnent explicitement les modèles d’apprentissage en profondeur. Il n’interdit pas la création d’objets utilisant ces technologies, mais les oblige à être “clairement étiquetés”.

La police a découvert que le suspect avait une entreprise, et dix jours après la publication de l’article, l’arrestation, la confiscation du PC et la perquisition ont eu lieu. Selon leur déclaration, Hong a admis qu’il avait pris des éléments d’histoires plus anciennes populaires en Chine pour alimenter ChatGPT, ce qui a donné lieu à plusieurs versions de la fausse histoire qui ont finalement été téléchargées. Hong a déclaré que ses amis sur WeChat lui avaient dit qu’il pouvait gagner de l’argent grâce aux clics. Le crime de Hong de « provoquer des querelles et de provoquer des troubles » est passible d’une peine pouvant aller jusqu’à cinq ans de prison, et les autorités pourraient l’imposer à Hong pour dissuader les autres d’essayer.

Cela semble effrayant.

Source : PCGamer