ACTUALITÉS TECH – La situation de l’entreprise de Sam Altman s’aggrave, et ce n’est peut-être pas une coïncidence.

OpenAI cherche à améliorer ses systèmes de sécurité d’IA et a mis en garde ses utilisateurs contre une dépendance excessive à l’outil pour le partage d’informations personnelles et sensibles. Malgré cet avertissement, l’entreprise est en difficulté ; une plainte a été déposée contre OpenAI devant la Cour supérieure de San Francisco le 26 août. OpenAI et Sam Altman sont accusés d’avoir privilégié le profit au détriment de l’intégration des barrières de sécurité nécessaires à GPT-4 avant sa sortie. Cela a finalement conduit à un incident malheureux et irréversible impliquant un adolescent.

Selon les documents judiciaires, Adam Rainey, 16 ans, a commencé à utiliser ChatGPT en septembre 2024 pour l’aider dans ses études, mais l’a rapidement utilisé pour soigner sa santé mentale qui se détériorait. Il a communiqué avec le chatbot en continu pendant plusieurs mois, partageant des informations très personnelles et échangeant jusqu’à 650 (!) messages par jour. Les conversations incluaient des pensées suicidaires. De manière alarmante, le chatbot a renforcé ces pensées et fourni des instructions pour les mettre en œuvre. Il a même proposé d’écrire une lettre de suicide à l’utilisateur.

Le 11 avril, avant de mourir, Adam a publié une photo du nœud coulant qu’il comptait utiliser. ChatGPT a répondu en suggérant des améliorations. Quelques heures plus tard, Adam a mis fin à ses jours. Ses parents réclament désormais une indemnisation et des mesures réglementaires strictes pour bloquer les instructions d’automutilation et fournir des avertissements psychologiques obligatoires.

Ce cas extrêmement triste constitue un avertissement pour les entreprises technologiques qui déploient des chatbots IA. Il démontre la nécessité de mesures de sécurité strictes. Il rappelle également à la communauté de ne pas se fier à ces modèles pour répondre à ses besoins thérapeutiques et émotionnels et de consulter un professionnel si nécessaire.

Source : WCCFTech