TECH NEWS – Le chatbot à intelligence artificielle générative (création de contenu), anciennement connu sous le nom de Bard, a vu ses capacités réduites par son créateur.
Récemment, Gemini a été critiqué pour avoir commencé à générer des images inexactes et nuisibles. Google a donc décidé de recourir à la vieille tactique du nerf consistant à réduire ses capacités de génération d’images jusqu’à ce qu’il puisse d’une manière ou d’une autre corriger les bugs en suspens. C’est une grosse erreur pour l’entreprise car Gemini est traité comme un produit autonome par Google, il n’a donc aucune connexion directe avec le moteur de recherche, les modèles d’IA et les autres services proposés par l’entreprise. Google a affiné manuellement le modèle pour rendre la génération d’images diversifiée, c’est-à-dire non biaisée en faveur des personnes de certains groupes ou ethnies. Cela permettrait à des personnes du monde entier d’utiliser la technologie sans rencontrer de tels problèmes.
Seules les contre-mesures de Google n’ont pas pu empêcher ce qui s’est produit, car Gemini était incapable de générer des images précises (et sans racisme) lorsqu’il recevait une requête concernant une couleur de peau particulière. Cela entraînait des requêtes étranges (par exemple, « Professeur noir dans une salle de classe ») qui conduisaient à la génération d’images inexactes, voire offensantes (ou refusaient de fonctionner) parce que le modèle les traitait comme sensibles alors qu’elles ne l’étaient pas.
Google a donc décidé de désactiver la possibilité de générer des images de personnes en Gemini. La société soumet actuellement l’ensemble du modèle à des tests approfondis et ne restaurera pas toutes les fonctionnalités du chatbot tant que Gemini n’échouera plus. L’entreprise a également déclaré que les modèles d’IA ne sont pas parfaits et que, même s’ils se sont beaucoup améliorés depuis leur introduction, ils ont toujours tendance à « halluciner », ce qui peut causer des problèmes.
Google n’a pas encore indiqué quand il sera prêt à corriger Gemini, donc d’ici là, tout ce que nous pouvons faire est d’attendre. Ce que nous pouvons espérer, c’est que lorsque Gemini sera à nouveau pleinement fonctionnel, il sera dans un bien meilleur état et disposera de capacités génératives encore plus fortes.
Source : WCCFTech, Blog Google
