Si vous avez raté la dernière conférence Google I/O 2024, où les équipes du géant de la recherche en ligne présentent leurs dernières innovations, vous n’êtes peut-être pas au courant que Google.com aux États-Unis intègre dorénavant l’IA dans ses résultats, venant révolutionner la manière dont le référencement SEO allait fonctionner dorénavant. En effet, anciennement connu sous le nom de SGE (pour Search Generative Experience), cette fonctionnalité basée sur l’intelligence artificielle Gemini, a été renommée par « AI Overviews » et a été intégré directement dans les résultats du moteur de recherche, aux États-Unis pour le moment.
Aussitôt la conférence terminée, aussitôt Google a déployé cette nouvelle fonctionnalité sur son moteur de recherche auprès du grand public. Quelques semaines après ce lancement, Google a été contraint de modifier certaines réponses de son moteur de recherche AI Overviews. Cette décision intervient après que des utilisateurs ont signalé des résultats étranges voire dangereux.
Des réponses controversées et problématiques à l’origine de cette polémique
Google a dû réagir après la diffusion de réponses inappropriées par son moteur de recherche AI Overviews. Par exemple, à la question sur le nombre de présidents musulmans que les États-Unis avaient eus, AI Overviews a faussement répondu que Barack Obama était considéré par certains comme le premier président musulman. Selon Google, ce résultat violait leurs règlements et a été supprimé.
Un autre incident a été rapporté par un utilisateur sous le pseudonyme de PixelButts sur le réseau social X (anciennement Twitter). Ce dernier a posté une capture d’écran où AI Overviews recommandait d’ajouter de la colle non toxique au fromage pour qu’il colle mieux à la pizza, une réponse manifestement inspirée d’un vieux commentaire humoristique sur Reddit.
Des sources humoristiques mal interprétées
Le moteur de recherche a également été critiqué pour avoir utilisé des articles satiriques comme sources crédibles. Le nouveau directeur du site humoristique The Onion a souligné que certaines réponses de AI Overviews étaient basées sur des contenus humoristiques de leur plateforme. Un exemple notable est l’affirmation que la CIA utilise des surligneurs noirs, une blague tirée d’un article de The Onion qui a été pris au sérieux par le moteur de recherche.
Google a reconnu ces erreurs et utilise ces exemples pour améliorer son système. Selon une porte-parole de Google, certaines améliorations ont déjà été mises en place pour éviter de telles dérives à l’avenir.
Les améliorations apportées au système AI Overviews
Depuis la mi-mai 2024, Google a déployé AI Overviews, qui génère des réponses écrites à des requêtes de recherche, au lieu de se limiter à fournir des liens vers des sites. Cette nouvelle fonctionnalité vise à répondre directement aux questions des utilisateurs en fournissant des informations synthétisées et pertinentes.
Les liens vers les sites web n’ont pas disparu, mais ils sont désormais placés sous le texte généré, permettant ainsi aux utilisateurs d’obtenir une réponse rapide tout en ayant la possibilité d’approfondir leur recherche. Google continue d’affiner cette technologie pour assurer que les réponses fournies soient fiables, sécurisées et exactes.
En réaction aux incidents signalés, Google, qui avait restructuré en début d’année plusieurs de ses pôles, a renforcé ses contrôles de qualité et ses procédures de validation des informations. L’entreprise s’efforce de minimiser les risques de désinformation et de garantir une meilleure expérience utilisateur.
Ces ajustements illustrent la volonté de Google d’adapter ses outils innovants aux attentes et aux besoins de ses utilisateurs, tout en maintenant un haut niveau de fiabilité et de sécurité des informations.