TECH NEWS – L’homme n’a pas obtenu la puissance de calcul dont il avait besoin pour ses recherches, mais comme OpenAI se concentre sur des produits “brillants”, il dit que l’entreprise ne se concentre pas sur ce qu’elle devrait être.

En trois jours, deux cadres supérieurs ont quitté OpenAI, ce qui est inquiétant car c’est l’une des entreprises les plus importantes pour le développement de l’intelligence artificielle. Cette fois, c’est Jan Leike, responsable de l’alignement d’OpenAI, qui a quitté son emploi dans l’entreprise connue pour ChatGPT. L’alignement est un processus critique dans lequel les valeurs humaines sont codées dans un grand modèle de langage (LLM), permettant au LLM de suivre les politiques et directives définies. L’ensemble de l’équipe d’alignement aurait été dissoute.

To all OpenAI employees, I want to say:

Learn to feel the AGI.

Act with the gravitas appropriate for what you're building.

I believe you can "ship" the cultural change that's needed.

I am counting on you.

The world is counting on you.

:openai-heart:

— Jan Leike (@janleike) May 17, 2024

Leike a déclaré à propos de son passage au sein de l’organisation à but non lucratif qu’OpenAI n’allouait pas correctement ses ressources pour garantir la sécurité des LLM et leur robustesse quelque peu contradictoire. Il estime que l’entreprise ne prend pas en compte les implications sociétales plus larges de la construction de machines plus intelligentes que l’humain, et considère également comme un problème que la culture et les processus de sécurité soient devenus secondaires par rapport aux produits « fantaisistes » : « Au cours des derniers mois “, mon équipe a navigué contre le vent. Parfois, nous avons eu du mal à obtenir des ressources informatiques, et il est devenu de plus en plus difficile de mener cette recherche importante”, a déclaré Leike.

Avant Leike, le scientifique en chef d’OpenAI, Ilya Sutskever, a quitté l’entreprise. Il a annoncé son départ le 14 mai pour poursuivre un projet « personnellement significatif ». Il a joué un rôle déterminant dans la révolte de novembre contre le PDG de l’entreprise, Sam Altman. Il a été licencié par le conseil d’administration pour avoir poussé le développement de l’IA sans garanties appropriées, provoquant des démissions massives, mais a été réintégré après avoir réussi à forcer la démission des membres du conseil d’administration qui ont soutenu le coup d’État.

OpenAI fait donc l’actualité deux fois en six mois pour des événements négatifs, et qui sait s’il y aura d’autres départs de l’entreprise…

Source : WCCFTech