ACTUS DE TECH – Cette demande est peut-être une indication de la sophistication de la technologie créée par OpenAI avec ChatGPT-4o, sinon ils n’auraient pas eu à demander quelque chose d’inhabituel dans un article de blog…
ChatGPT-4o a une capacité de comportement et de réponse semblable à celle d’un humain, et OpenAI a détecté plusieurs modèles chez les utilisateurs. L’entreprise craint qu’un lien émotionnel puisse se développer entre les utilisateurs et le chatbot. Pour cette raison, l’entreprise demande au public utilisant la technologie sur son blog de ne rien ressentir pour le chatbot ! Alors, est-ce que quelqu’un est tombé amoureux de ChatGPT ?
« Lors des premiers tests, notamment des tests en équipe rouge et des tests utilisateurs internes, nous avons observé que les utilisateurs utilisaient un langage qui pouvait indiquer qu’ils formaient des liens avec le modèle. Cela inclut, par exemple, un langage qui exprime des liens partagés, comme « C’est notre dernier jour ensemble ». Bien que ces cas semblent bénins, ils signalent la nécessité d’une enquête plus approfondie sur la manière dont ces effets pourraient se manifester sur des périodes plus longues. Des populations d’utilisateurs plus diversifiées, avec des besoins et des désirs plus divers du modèle, en plus d’études universitaires et internes indépendantes, nous aideront à définir ce domaine de risque de manière plus concrète.
La socialisation de type humain avec un modèle d’IA peut créer des externalités qui affectent les interactions interhumaines. Par exemple, les utilisateurs peuvent former des relations sociales avec l’IA qui réduisent leur besoin d’interaction humaine, ce qui peut bénéficier aux individus seuls, mais peut affecter les relations saines. Une interaction prolongée avec le modèle pourrait influencer les normes sociales. Par exemple, nos modèles sont déférents, ce qui permet aux utilisateurs d’interrompre et de « prendre le micro » à tout moment, ce qui, bien qu’attendu d’une IA, serait antinormatif dans les interactions humaines », a écrit OpenAI.
Cela fait réfléchir, car c’est à cette vitesse que la technologie créée par OpenAI a évolué pour devenir une technologie aussi sophistiquée. Espérons que les utilisateurs ne prendront pas mal l’avertissement (par ailleurs logique) de l’entreprise.
