TECH ACTUS – Les créateurs de ChatGPT envisagent d’autoriser le contenu érotique mais affirment que cela ne facilitera pas la création de deepfakes…

OpenAI a véritablement décollé après la présentation publique de GPT-4o. Il s’agit de la prochaine étape de ChatGPT pour rapprocher l’intelligence artificielle des capacités humaines. Après que Sam Altman (PDG de l’entreprise) ait promis que nous verrions « quelque chose de magique », l’événement a répondu aux attentes et a impressionné de nombreuses personnes grâce aux capacités du bot d’OpenAI.

Cependant, peu avant la présentation, l’entreprise a parlé publiquement d’un éventuel changement de politique qui pourrait conduire à des situations très dangereuses.

Comme indiqué dans une récente publication du portail TechSpot, OpenAI étudie la possibilité que les utilisateurs puissent utiliser l’intelligence artificielle pour créer des films pornographiques. Actuellement, les sociétés d’intelligence artificielle utilisent des filtres pour les empêcher de créer de tels contenus. Cependant, la société américaine envisage de revoir ses conditions. Tout cela est fait afin de permettre aux utilisateurs de créer de manière responsable du contenu érotique avec des outils utilisant l’intelligence artificielle générative.

Les deepfakes peuvent être une préoccupation majeure pour les plans ChatGPT

Cette possibilité soulève cependant la question de la prolifération d’un problème qui a déjà touché des célébrités comme Taylor Swift : les deepfakes non autorisés. A l’aide d’outils basés sur l’intelligence artificielle, de nombreux utilisateurs ont créé du contenu pornographique sur l’artiste. Cela se propage sans contrôle sur les réseaux sociaux.

Joanne Jang, l’actuelle responsable du modèle OpenAI, a déclaré qu’elle serait très prudente avec cette décision car elle ne voulait pas que les gens violent les droits d’autrui.

Jang a parlé de la possibilité de supprimer leurs filtres. Il a également évoqué le type de contenu qui peut être créé : “Cela dépend de la définition de la pornographie”. Cependant, il était catégorique à propos des deepfakes. Il a déclaré qu’en aucun cas ils n’autoriseraient la création de ce type de contenu. Quoi qu’il en soit, l’existence de cette possibilité est largement redoutée. Parce que supprimer ces filtres et donner autant de liberté à une IA peut être contre-productif pour produire un modèle de langage sûr et précieux.

Source : TechSpot