ACTUALITÉS TECH : Anthropic a identifié dans Claude une représentation interne qui rappelle certains aspects de la théorie neuroscientifique de l’espace de travail global. Cela ne prouve pas la conscience.
L’immense majorité des synapses actives dans le cerveau humain effectuent des tâches automatiques et involontaires. Cela comprend notamment la régulation de la respiration et le traitement des informations visuelles.
Seule une petite partie de ces processus devient consciemment accessible. Ces pensées peuvent être formulées, gardées en mémoire et utilisées pour raisonner.
En neurosciences, ce phénomène est souvent décrit par la théorie de l’espace de travail global. Selon cette théorie, les pensées deviennent consciemment accessibles lorsqu’elles entrent dans un espace privilégié accessible à différentes parties du cerveau.
Anthropic a maintenant étudié une structure dans son modèle Claude qui ressemble à cette idée sous certains aspects. Les chercheurs ont présenté leurs résultats dans une étude détaillée, mais un point est essentiel : cette recherche n’affirme pas que Claude est conscient, et encore moins qu’il possède une âme.
Imaginons le fonctionnement interne d’un modèle d’IA comme un immense bureau. À tout moment, d’innombrables tâches de fond sont en cours, mais il existe aussi une salle de réunion principale où les concepts généraux et les décisions stratégiques passent au premier plan.
Anthropic affirme que Claude possède un tel espace interne privilégié, appelé J-space. Le modèle pourrait l’utiliser lorsqu’il résout des tâches complexes, traite des situations compliquées ou tente d’exprimer son propre raisonnement.
Les chercheurs ont mis au point un outil d’interprétabilité nommé Jacobian Lens, ou J-lens. Il utilise des méthodes mathématiques pour identifier les représentations internes que le modèle est prêt à verbaliser plus tard.
Le J-lens n’est pas un outil de lecture des pensées. Il examine plutôt une partie précise des calculs internes de Claude et tente de prévoir quels concepts pourraient apparaître dans les sorties suivantes.
Il permet d’étudier des questions comme celle-ci : si un signal précis s’active dans la vingtième couche, de combien augmente-t-il ou diminue-t-il la probabilité mathématique que le modèle utilise le mot banane cinq mots plus tard ?
Les chercheurs d’Anthropic affirment avoir démontré l’existence d’un tel espace de travail central dans Claude. Ils ont demandé au modèle sur quels concepts il se concentrait, puis ont utilisé le J-lens pour examiner quelles représentations étaient présentes dans le J-space à ce moment-là.
Lorsqu’on a demandé à Claude de garder le concept d’équité à l’esprit, les chercheurs ont observé qu’une représentation de l’équité entrait dans le J-space et y restait. Durant des tâches complexes, comme des problèmes d’échecs, le J-space peut fonctionner comme une sorte de carnet de notes interne.
Lorsque les chercheurs ont modifié expérimentalement le contenu de cet espace, la réponse finale de Claude a également changé. D’autres composants du modèle, même lorsqu’ils travaillaient sur des sous-tâches différentes, pouvaient accéder aux concepts placés dans le J-space.
Selon Anthropic, cette structure n’a pas été intégrée directement à Claude. Elle aurait émergé durant l’entraînement parce qu’elle s’est révélée utile pour organiser les calculs et les tâches complexes.
En biologie, l’évolution convergente désigne le fait que différentes espèces développent des traits similaires parce que ces traits constituent une réponse efficace à un problème donné. Le résultat d’Anthropic rappelle cette idée uniquement parce qu’une similitude structurelle apparaît entre un système artificiel et une théorie de la cognition humaine.
Cela ne signifie pas que Claude est conscient au sens humain, et cela ne démontre ni intention, ni expérience subjective, ni âme. L’étude suggère plutôt qu’un espace de travail global et partageable peut être une solution mathématiquement utile pour traiter des informations complexes.
