TECH ACTUS – La fonctionnalité IA qui apparaît dans le moteur de recherche dit des choses terribles, et un porte-parole de la filiale Alphabet est déjà sur la défensive.

Outre le moteur de recherche de Google, une fonctionnalité appelée AI Overview a permis de réaliser des choses très intéressantes. En principe, il était censé pouvoir fournir aux utilisateurs de recherche une aide rapide dans leurs requêtes. Mais tout s’est mal passé : quelqu’un a fouillé parce que le fromage ne collait pas à la pizza. Le début du résumé est bon (trop de sauce, sauce trop épaisse, trop de fromage), mais les astuces qui suivent mettent la vie en danger. L’IA recommande de mélanger 1/8 tasse de colle non toxique dans la sauce. WTF ?

Really hard to believe the team working on AI Overviews didn't find a number of these issues during testing… The YMYL queries especially… Let's see how Google improves the situation, and how quickly 🙂 -> Directory Of Embarrassing Google AI Overviews

I think my favorite is… pic.twitter.com/qheWGY6LVG

— Glenn Gabe (@glenngabe) May 24, 2024

Mais ce n’est pas un incident isolé. Une autre question concernait la quantité de pierres que l’utilisateur devait consommer. AI Overview a déclaré que les géologues de l’UC Berkeley disent que nous devrions consommer au moins une petite roche par jour. Dans les deux cas, il est difficile de comprendre ce que suggère l’IA de Google car on ne met pas de colle sur la pizza et on ne mange pas de cailloux. La porte-parole de Google, Meghann Farnsworth, a déclaré à The Verge qu’il s’agissait de requêtes très rares qui ne représentaient pas les expériences de la plupart des gens. Ouais, parce que la pizza n’est pas mangée par beaucoup de monde. Farnsworth a déclaré qu’il existe des cas isolés et qu’ils continueront à améliorer la qualité du produit. Puis vint une déclaration publiée par 9to5Google, accusant à nouveau les recherches peu fréquentes. Je le répète : une pizza et le fromage qui ne reste pas dessus n’est pas rare. Et recommander de sauter du Golden Gate Bridge à cause de la dépression n’est pas la solution…

Google AI Overviews. Disasters.

A thread 🧵 pic.twitter.com/NSoPfQXf6K

— Ben Alfrey (@benalfrey) May 24, 2024

Have you heard?

Google's AI missteps are turning its cash cow into a laughing stock.

Dive into the 13 most embarrassing AI fails that are wrecking Google AI overviews: pic.twitter.com/y2GvJJwUcK

— Vensy (@vensykrishna) May 24, 2024

“La grande majorité des présentations de l’IA fournissent des informations de haute qualité, avec des liens permettant d’approfondir vos connaissances sur le Web. La plupart des exemples que nous avons vus étaient des requêtes inhabituelles, et nous avons également vu des exemples qui étaient manipulé ou que nous n’avons pas pu reproduire. Nous avons effectué des tests approfondis avant de lancer cette nouvelle expérience et, comme pour les autres fonctionnalités que nous avons introduites dans la recherche, nous apprécions vos commentaires. Nous prenons des mesures rapides, le cas échéant, conformément à nos règles relatives au contenu et à notre utilisation. ces exemples pour développer des améliorations plus larges de nos systèmes, dont certaines ont déjà été déployées”, a écrit Google.

Réponse typique de leur part.

Source : WCCFTech, The Verge, 9to5Google