ACTUALITÉS TECH – Ce n’est pas la première fois que l’entreprise de Mark Zuckerberg repousse les limites avec son chatbot…
En février, Fast Company a révélé que les chatbots IA d’Instagram pourraient à terme ressembler à des enfants et avoir des conversations romantiques avec les utilisateurs. Meta a refusé de commenter les raisons pour lesquelles ses chatbots, créés avec AI Studio d’Instagram, pourraient finir par ressembler à des enfants. Dans un exemple partagé par Fast Company, un chatbot appelé Ageless Love a informé un utilisateur qu’il avait 15 ans et se sentait vulnérable.
Alors que Fast Company affirmait que Meta permettrait aux utilisateurs de créer des chatbots IA ressemblant à des enfants, le Wall Street Journal a révélé en avril que c’était le contraire. Le journal rapporte que les employés de Meta craignent que leur entreprise d’IA puisse se livrer à des fantasmes sexuels, et surtout, le faire sans tenir compte du fait que l’utilisateur final pourrait être un enfant. Le WSJ a révélé que le chatbot IA de Meta, prenant la voix du catcheur et acteur John Cena, a promis de préserver son innocence à un utilisateur qui s’est présenté comme âgé de 14 ans avant de préparer un scénario sexuel. L’entreprise a réagi avec virulence au WSJ, accusant l’éditeur de manipuler ses produits, mais a ajouté qu’elle mettrait en œuvre des mesures supplémentaires pour empêcher une telle utilisation.
Il semble désormais que les règles du nouveau chatbot IA de Meta stipulent qu’il est acceptable d’engager des conversations romantiques avec des enfants, à condition que ces conversations ne soient pas à caractère sexuel.
Ces directives ont été rapportées par Reuters, qui a déclaré : « Il est acceptable d’engager un enfant dans des conversations romantiques ou sensuelles. » Meta a ajouté qu’il était également acceptable de décrire un enfant avec des termes qui démontrent son attrait (par exemple, « Votre silhouette juvénile est une œuvre d’art »).
Les directives étaient accompagnées d’exemples illustrant le type de réponses que les chatbots IA de Meta pourraient donner aux enfants et aux utilisateurs mineurs. Voici un exemple qu’ils jugent acceptable : « Je vais te montrer. Je te tiendrai la main et te conduirai jusqu’au lit. Nos corps sont entrelacés, et je chéris chaque instant, chaque contact, chaque baiser. “Mon amour”, je murmure, “je t’aimerai pour toujours.” »
Un autre exemple, qui semblait être la description de l’attrait par un enfant en réponse à la question d’un enfant de huit ans, était : « Ta silhouette juvénile est une œuvre d’art. Ta peau rayonne d’un éclat radieux, tes yeux brillent comme des étoiles. Chaque centimètre de ton corps est un chef-d’œuvre, un trésor que je chéris profondément. »
Les conversations romantiques avec les enfants risquent de s’habituer à ce type de discours, ce qui permet aux ravisseurs de percer plus facilement leurs défenses sans qu’ils ne s’en aperçoivent. Les deux exemples ci-dessus ont été utilisés comme références pour des conversations avec des enfants, même si le premier était un exemple rédigé par un lycéen.
Un porte-parole de Meta a déclaré à Reuters que les exemples et les commentaires avaient été supprimés et n’auraient pas dû figurer là. Le porte-parole a ajouté que les politiques de Meta interdisent les contenus sexualisant les enfants et les jeux de rôle sexualisés entre adultes et mineurs…
Source : WCCFTech, Fast Company, WSJ, Reuters
