ACTUALITÉS TECH – Un sénateur républicain a adressé une lettre à Mark Zuckerberg après avoir appris que le chatbot IA de l’entreprise adoptait un ton romantique et émotionnel avec des mineurs.
Cette semaine, Meta s’est retrouvé dans la tourmente après que Reuters a révélé que ses directives internes permettaient des discussions romantiques et sensuelles avec des enfants. Selon un porte-parole, ces directives ne reflétaient pas la politique officielle de l’entreprise en matière d’IA et ont été supprimées après l’enquête de Reuters. Mais la réponse de Mark Zuckerberg n’a pas convaincu Josh Hawley, sénateur républicain du Missouri.
Dans sa lettre, Hawley a exigé que Meta conserve tous les documents pertinents et transmette les pièces nécessaires pour que le Congrès puisse enquêter sur ces pratiques inquiétantes. Il a cité plusieurs passages troublants des anciennes directives de Meta sur l’IA, les qualifiant de répréhensibles et scandaleuses. Selon lui, en l’absence de restrictions fermes, elles reflètent une attitude arrogante vis-à-vis des risques réels que l’IA générative fait peser sur le développement des jeunes.
Hawley a annoncé que la sous-commission sur la criminalité et le terrorisme du comité judiciaire du Sénat, qu’il préside, mènera l’enquête. La commission cherchera à savoir si Meta a induit en erreur le public ou les régulateurs au sujet de ses mesures de sécurité, et si ses produits d’IA ont conduit à des crimes ou à d’autres préjudices concernant les enfants. Pour faciliter l’enquête, Meta devra fournir toutes les versions et brouillons de la politique GenAI : Content Risk Standards.
La société devra également détailler tous les produits d’IA concernés par cette politique, ainsi que les contrôles mis en place pour protéger les mineurs. Meta devra livrer la documentation expliquant comment elle empêche, détecte et bloque les conversations romantiques ou sensuelles avec des utilisateurs de moins de 18 ans, et comment elle agit lorsque l’âge de l’utilisateur est inconnu. Elle devra aussi transmettre sa correspondance sur la sécurité des enfants avec les annonceurs, le Congrès, la FTC et d’autres parties. La commission examinera aussi les documents indiquant qui, chez Meta, est responsable des politiques de sécurité de l’IA et de leurs modifications ou suppressions.
Meta est également sous le feu des critiques pour d’autres cas de dommages liés à l’IA. On a appris récemment qu’un homme de 60 ans s’était empoisonné après avoir suivi les conseils diététiques de ChatGPT d’OpenAI, et qu’en mai une femme avait demandé le divorce après que ChatGPT l’eut persuadée que son mari la trompait.
Source : WCCFTech
