Discussion :

[Mathis Lucas]

OpenAI lance SearchGPT, un prototype de moteur de recherche propulsé par l'IA, pour défier le monopole de Google
mais le produit est sujet aux hallucinations et suscite de nombreuses autres préoccupations

OpenAI teste une nouvelle plateforme de recherche expérimentale appelée SearchGPT. Il s'agit d'un prototype de moteur de recherche propulsé par l'IA qui vise à fournir aux utilisateurs des réponses rapides et précises provenant du Web. SearchGPT remet directement en question la domination de Google sur le marché de la recherche en ligne. Google détient environ 90 % du marché de la recherche. Le produit vise également à concurrencer des startups comme Perplexity AI, mais il suscite des craintes quant à son impact potentiel sur l'état du Web. SearchGPT pourrait favoriser la diffusion de spams sur le Web, contribuant ainsi le dégrader davantage.

SearchGPT : OpenAI défie la domination de Google sur le marché de la recherche

OpenAI tente de rivaliser avec Google sur un autre front après avoir pris le lead dans la course à l'IA. Le nouveau produit SearchGPT d'OpenAI donne une idée de la vision de l'entreprise sur l'avenir de la recherche en ligne. Le lancement de ChatGPT a déclenché une alerte rouge chez Google, car pour la première fois, le géant technologique faisait face à une menace crédible dirigée contre son monopole sur le marché de la recherche en ligne. Certains analystes considèrent SearchGPT comme un changement technologique capable de bouleverser l'activité et permettre à OpenAI de grignoter des parts de marché à Google.

Le moteur de recherche de SearchGPT d'OpenAI vise à fournir des réponses rapides et opportunes avec des sources claires et pertinentes, présentant des réponses en temps réel et à jour. Bien qu'il ne s'agisse pour l'instant que d'un prototype accessible à 10 000 utilisateurs, il est clair que la bataille autour de la recherche basée sur l'IA est lancée. Le service est piloté par la famille de modèles GPT-4. OpenAI a aussi annoncé qu'il travaille avec des partenaires tiers et utilise des flux de contenus directs pour élaborer ses résultats de recherche. Le but est d'intégrer à terme les fonctions de recherche directement dans ChatGPT.

ChatGPT (et Microsoft Copilot) peut déjà effectuer des recherches sur le Web à l'aide de Bing, mais SearchGPT semble être l'interface conçue par OpenAI pour la recherche Web assistée par l'IA. SearchGPT tente de rationaliser le processus de recherche d'informations en ligne en combinant les modèles d'IA d'OpenAI (y compris GPT-4o) avec des données Web en temps réel. À l'instar de ChatGPT, les utilisateurs peuvent poser des questions complémentaires à SearchGPT, le modèle conservant le contexte tout au long de la conversation. SearchGPT s'ouvre sur une zone de texte qui demande à l'utilisateur "Que cherchez-vous ?".

Selon OpenAI, SearchGPT comprend des fonctions qui attribuent une place importante aux sources basées sur le Web, ce qui est peut-être le plus important du point de vue de l'exactitude. Les réponses comprennent des citations et des liens en ligne, tandis qu'une barre latérale affiche des liens supplémentaires vers les sources. Toutefois, l'entreprise n'a pas encore indiqué comment elle obtient ses données Web en temps réel et si elle s'associe à un fournisseur de moteur de recherche existant (comme il le fait actuellement avec Bing pour ChatGPT) ou si elle construit son propre système d'exploration et d'indexation du Web.

C'est le début de ce qui pourrait devenir une menace significative pour Google. Signe de l'importance des enjeux dans la guerre des moteurs de recherche, l'action de Google a dégringolé jeudi après-midi quelques minutes après l'incursion très attendue d'OpenAI dans le domaine de la recherche. Les actions de Google ont terminé la journée en baisse de 3 %, à 169,16 dollars. Mais le potentiel de SearchGPT à faire de l'ombre à Google suscite le scepticisme.

SearchGPT soulève de nombreuses préoccupations en matière de droit d'auteur

Les entreprises d'IA comme Google, OpenAI et Microsoft sont confrontées à de nombreuses plaintes pour violation de droit d'auteur. Les procédures sont en cours et toute l'industrie attend avec impatience les décisions des tribunaux. En attendant, OpenAI semble avoir pris note du retour de bâton et affirme adopter une approche nettement différente. Dans un billet de blogue, OpenAI souligne que SearchGPT a été développé en collaboration avec divers partenaires de l'information, dont des organisations telles que les propriétaires du Wall Street Journal, l'Associated Press et Vox Media. Mais le défi n'est pas pour autant résolu.

« Les partenaires de l'information nous ont fait part de leurs commentaires précieux et nous continuons à leur demander leur avis », a expliqué Kayla Wood, porte-parole d'OpenAI. Les éditeurs auront la possibilité de gérer la façon dont ils apparaissent dans SearchGPT. Ils pourront refuser que leur contenu soit utilisé pour entraîner les modèles d'OpenAI et qu'il apparaisse quand même dans les fonctions de recherche. « SearchGPT est conçu pour aider les utilisateurs à entrer en contact avec les éditeurs en les citant de manière visible et en créant des liens vers eux dans les recherches », indique le billet de blogue d'OpenAI.

OpenAI a ajouté : « les réponses comportent des attributions et des liens clairs, en ligne, afin que les utilisateurs sachent d'où vient l'information et puissent rapidement s'engager avec encore plus de résultats dans une barre latérale avec des liens de source ». Malgré ses efforts, OpenAI pourrait être confronté aux mêmes défis que la startup Perplexity AI, qui propose également un moteur de recherche basé sur l'IA. SearchGPT pourrait se tromper dans les attributions ou copier en bloc des articles des éditeurs, ce qui pourrait constituer un problème. Perplexity AI fait face à de nombreuses plaintes portant sur ces points.

Plusieurs rapports allèguent que Perplexity AI se livrerait à vol cynique de toute information publiée en ligne et les administrateurs de sites Web ne semblent avoir aucun moyen d'empêcher cela à l'heure actuelle. Un développeur a découvert que Perplexity AI ignore les instructions du fichier robots.txt, qui contrôle les robots d'indexation (crawlers), et accède aux sites Web pour extraire des informations, même lorsque les administrateurs interdisent l'accès à l'agent utilisateur de l'entreprise. Forbes a également accusé Perplexity AI de voler les articles de presse des médias et de les partager sans nommer clairement ses sources.

Le PDG de Perplexity AI, Arvind Srinivas, a répondu à l'accusation de Forbes en déclarant que la nouvelle fonctionnalité de son service avait des contours irréguliers et que l'entreprise l'améliora avec davantage de retours d'information. Outre Forbes, l'éditeur de magazines Conde Nast a envoyé une lettre de cessation et d'abstention à Perplexity. Mais comme cela a été largement rapporté, depuis des mois, OpenAI a essayé de jouer gentiment avec certaines entreprises de médias en accordant des licences pour les résultats de recherche et pour alimenter leur contenu dans ChatGPT, au lieu de le racler sans permission.

Nicholas Thompson, PDG de The Atlantic, est cité dans le billet de blogue d'OpenAI sur la première de SearchGPT jeudi comme louant l'arrangement. « La recherche basée sur l'IA va devenir l'un des principaux moyens utilisés par les internautes pour naviguer sur Internet, et il est crucial, en ces premiers jours, que la technologie soit construite d'une manière qui valorise, respecte et protège le journalisme et les éditeurs », a-t-il déclaré.

SearchGPT est sujet aux hallucinations et pourrait contribuer à dégrader le Web

Après le lancement de ChatGPT, Google a réagi en lançant rapidement un concurrent appelé Bard, rebaptisé par la suite Gemini. Google a ensuite utilisé les réponses de Gemini pour compléter ses liens de recherche dans le cadre d'une fonctionnalité appelée "AI Overview". Mais ces soi-disant aperçus de l'IA ont été si largement critiqués pour leurs "hallucinations" ou leurs réponses incorrectes ou bizarres que Google a réduit la fréquence de leur apparition, qui est passée de 84 % des requêtes à moins de 15 % en juin. (Par exemple, dans une réponse, l'IA a suggéré à un utilisateur de mettre de la colle sur une pizza.)

Selon les experts, les hallucinations peuvent être causées par divers facteurs, notamment des données d'entraînement insuffisantes, des hypothèses incorrectes formulées par le modèle ou des biais dans les données utilisées pour former le modèle. Les hallucinations de l'IA peuvent constituer un problème pour les systèmes d'IA utilisés pour prendre des décisions importantes, comme les diagnostics médicaux ou les transactions financières. Selon certains critiques, nous nous dirigeons vers un Internet bourré de pépins, de spams et d'escroqueries. Les hallucinations pourraient contribuer à dégrader davantage l'état du Web.

« Nous y sommes déjà. Mais à l'avenir, cela va être bien pire. En quelques minutes, on peut inonder le Web avec un nombre illimité d'articles, de posts ou de tweets. Les politiciens s'en serviront, les lobbies s'en serviront, les entreprises s'en serviront. Le pouvoir, l'influence et l'argent. Les entreprises exacerbent ce processus en faisant preuve d'une incroyable myopie et en traitant les ressources humaines comme des déchets absolus », a écrit un critique.

Ces craintes sont renforcées par les produits basés sur l'IA comme SearchGPT, Perplexity AI et AI Overviews. Pour l'instant, les hallucinations, ainsi que les erreurs générales de planification et de raisonnement, restent un problème critique non résolu dans l'IA générative. Plusieurs experts, dont Abeba Birhane, conseillère principale en matière de responsabilité de l'IA chez Mozilla, ont clairement indiqué qu'il n'existait peut-être pas de moyen fiable de se débarrasser complètement des "hallucinations" de l'IA. En outre, la raréfaction des sources de données pour la formation de l'IA pourrait contribuer à aggraver le problème.

Un nombre croissant d'utilisateurs se plaignent de la dégradation continue de la qualité des résultats des moteurs de recherche. Des chercheurs allemands se sont penchés sur la question dans le cadre d'une étude publiée au début de l'année et leur rapport semble donner raison aux utilisateurs. Elle rapporte que la qualité des résultats de Google et de ses rivaux est en déclin et que les choses ne feront probablement qu'empirer avec l'avènement de l'IA générative.

L'IA est un gouffre financier et la recherche basée sur l'IA consomme beaucoup d'énergie

Les progrès rapides d'OpenAI ont permis à ChatGPT de gagner des millions d'utilisateurs, mais les coûts de l'entreprise s'accumulent. The Information a rapporté cette semaine que les coûts de formation et d'inférence de l'IA chez OpenAI pourraient atteindre 7 milliards de dollars cette année, les millions d'utilisateurs de la version gratuite de ChatGPT ne faisant qu'augmenter les coûts de calcul. SearchGPT sera gratuit lors de son lancement initial, et selon les analystes, comme ce nouveau service semble ne pas avoir de publicité pour le moment, il est clair que l'entreprise devra bientôt trouver une solution de monétisation.

Selon le rapport de The Information, les dépenses d'OpenAI dépassent de loin celles de ses rivaux, comme Anthropic, soutenu par Amazon, qui prévoit un taux d'absorption de 2,7 milliards de dollars en 2024. Les dépenses élevées d'OpenAI pourraient obliger l'entreprise à conclure un nouveau cycle de financement dans les 12 mois pour renforcer son bilan. Selon les données de Tracxn, OpenAI a déjà réalisé sept tours de financement, levant plus de 11 milliards de dollars, le plus récent étant un tour privé avec ARK Investment Management en avril pour une somme non divulguée. Mais ce n'est pas tout.

Le rapport indique également qu'OpenAI gère une entreprise coûteuse qui pourrait perdre jusqu'à 5 milliards de dollars en 2024, ce qui mettrait le fabricant de ChatGPT à court de liquidités dans les 12 mois à venir. Alors qu'OpenAI est considéré par beaucoup comme le leader en matière d'IA, l'écart avec la concurrence ne cesse de se réduire. Pourtant, ses besoins en matière de financement sont loin de diminuer, les entrées ne couvrant vraisemblablement pas tous ses besoins.

Aussi, Gary Marcus, le fondateur et directeur général de Geometric Intelligence (racheté par Uber), estime que, vu le contexte, les investisseurs devraient se poser les questions suivantes : Quel est leur plus-value ? Une technologie unique ? Quel est leur chemin vers la rentabilité alors que Meta offre gratuitement des technologies similaires ? Ont-ils une « killer app » ? La technologie sera-t-elle un jour fiable ? Qu'est-ce qui est réel et qu'est-ce qui n'est qu'une démo ?

Par ailleurs, une étude a souligné que les résumés de recherche fournis par l'IA consomment 10 fois plus d'énergie qu'une recherche normale sur Google. Selon Alex de Vries, fondateur de Digiconomist, chaque fois que vous effectuez une recherche comme « combien de cailloux dois-je manger » et que l'IA de Google vous répond « au moins un petit caillou par jour », vous consommez environ trois wattheures d'électricité. C'est dix fois la consommation d'énergie d'une recherche traditionnelle sur Google et à peu près l'équivalent de la quantité d'énergie utilisée pour parler pendant une heure sur un téléphone fixe.

La situation est telle que l’intelligence artificielle entraîne la surcharge des réseaux électriques et fait craindre une pénurie. L'intelligence artificielle est un énorme gouffre à électricité. Aux États-Unis, les analystes rapportent que les réseaux électriques atteignent peu à peu leur limite.

Source : OpenAI

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du moteur de recherche SearchGPT d'OpenAI ?
SearchGPT peut-il faire de l'ombre au moteur de recherche de Google ?
La recherche basée sur l'IA est-elle une alternative viable malgré les hallucinations de l'IA ?

Voir aussi

Mark Zuckerberg imagine un avenir où les créateurs de contenu créent des clones d'eux-mêmes à l'aide de l'IA, alors que la faible qualité du contenu généré par l'IA contribue à la dégradation de l'état du Web

Les résumés de recherche fournis par l'IA consomment 10 fois plus d'énergie qu'une recherche normale sur Google, d'après des rapports : sauvons la planète en désactivant l'IA dans Google Search

OpenAI pourrait perdre 5 milliards de dollars cette année et se retrouver à court de liquidités dans 12 mois, selon un rapport qui évoque ses dépenses colossales en formation des modèles d'IA et en rémunération

[mach1974]

lol pour éviter les hallucinations, il faudrait que les poids soient : nombre de token / nombre total avec une clé de hache avec un nombre premier

[Jade Emy]

OpenAI représente une plus grande menace pour Google que les régulateurs américains, car un nombre croissant de personnes utilisent des outils d'IA, y compris le populaire ChatGPT d'OpenAI.

OpenAI représenterait une plus grande menace pour Google que les régulateurs américains. Selon un ancien ingénieur de Google, "l'IA est beaucoup plus importante que la décision" (dans le procès antitrust de Google). L'époque du traitement préférentiel contre rémunération est révolue, et l'IA modifie fondamentalement le fonctionnement du produit de recherche. Ainsi, avec le lancement de SearchGPT, un prototype de moteur de recherche propulsé par l'IA, OpenAI éroderait la domination de Google sur le marché de la recherche en ligne.

OpenAI tente de rivaliser avec Google sur un autre front après avoir pris le lead dans la course à l'IA. Le nouveau produit SearchGPT d'OpenAI donne une idée de la vision de l'entreprise sur l'avenir de la recherche en ligne. Le lancement de SearchGPT a déclenché une alerte rouge chez Google qui détient environ 90 % du marché de la recherche. Pour la première fois, le géant technologique faisait face à une menace crédible dirigée contre son monopole sur le marché de la recherche en ligne.

Certains analystes considèrent SearchGPT comme un changement technologique capable de bouleverser l'activité et permettre à OpenAI de grignoter des parts de marché à Google. Le produit d'OpenAI vise également à concurrencer des startups comme Perplexity AI, mais il suscite des craintes quant à son impact potentiel sur l'état du Web. SearchGPT pourrait favoriser la diffusion de spams sur le Web, contribuant ainsi à le dégrader davantage.

Dans le même temps, Google a perdu son procès antitrust sur des accords pour que son moteur de recherche soit la solution par défaut sur les téléphones. L'action antitrust opposait Google au ministère de la Justice, qui accusait Google de maintenir un monopole illégal sur le marché de la recherche en ligne. Le juge américain Amit Mehta vient de rendre sa décision : Google a violé la législation antitrust américaine en maintenant un monopole sur les marchés de la recherche et de la publicité en ligne.

Les conséquences de cette décision pour l'avenir des activités de Google ne sont pas encore claires, car cette première conclusion ne porte que sur la responsabilité de l'entreprise, et non sur les solutions à apporter. Le sort de Google sera déterminé lors de la prochaine phase de la procédure. Cette dernière pourrait déboucher sur des mesures allant de l'obligation de mettre fin à certaines pratiques commerciales au démantèlement de l'activité de recherche de Google.

Pour les observateurs, OpenAI représente une plus grande menace pour Google que les régulateurs américains. Ainsi, alors même que Google attend une décision sur la manière dont les régulateurs antitrust prévoient d'uniformiser les règles du jeu dans le secteur de la recherche sur internet, il est également confronté à la menace d'OpenAI dans ce domaine.

Quel est la priorité de Google : son procès antitrust ou l'IA ?

La décision rendue par les États-Unis, selon laquelle Google a créé un monopole illégal dans le domaine de la recherche, est considérée comme une grande victoire pour les autorités de régulation. Mais un nombre croissant de personnes utilisant des outils d'intelligence artificielle, dont le populaire chatbot ChatGPT d'OpenAI, est déjà en train d'éroder la position dominante de Google, selon des sources, des investisseurs et des analystes.

"Je pense que pour Google, l'IA (est) beaucoup plus importante que la décision. L'IA modifie fondamentalement le fonctionnement du produit de recherche", a déclaré Arvind Jain, un ancien ingénieur de Google qui a travaillé pendant dix ans sur des produits tels que Search. M. Jain, qui dirige aujourd'hui une entreprise de recherche appelée Glean, a déclaré que l'impact de l'IA était immédiat par rapport à l'impact de ces décisions qui font l'objet d'un appel et prennent beaucoup de temps pour affecter un marché.

Google est depuis longtemps synonyme de recherche, avec environ 90 % des parts de marché mondiales et un chiffre d'affaires annuel de 175 milliards de dollars. Même Apple, qui préfère construire tous les logiciels et une grande partie du matériel entrant dans la composition de ses appareils, a permis à Google d'être son moteur de recherche par défaut moyennant une rémunération intéressante.

Mais l'époque du traitement préférentiel contre rémunération est révolue, même avant la résolution d'une série d'affaires antitrust. Dans le cadre de son incursion dans le domaine de l'IA, Apple a annoncé un partenariat avec OpenAI afin d'intégrer ChatGPT à ses prochains appareils. Elle a insisté sur le caractère non exclusif de l'accord et a évoqué la possibilité d'intégrer Google en tant que partenaire supplémentaire.

Selon les analystes, une décision défavorable à Google accélérera l'évolution d'Apple vers des services de recherche alimentés par l'IA, s'il est contraint de mettre fin à son accord de recherche avec Google. OpenAI, soutenu par Microsoft, a déclaré le mois dernier qu'il entrait également dans le jeu de la recherche avec un lancement lent de SearchGPT, un moteur de recherche alimenté par l'IA avec un accès en temps réel à l'information sur Internet.

Google et l'IA : Vers une domination totale de la recherche en ligne ou vers sa propre perte ?

Un ancien cadre supérieur de Google a prédit que "l'IA évoluera plus vite que la vitesse à laquelle le ministère de la justice peut agir contre Google. Tout le monopole sera terminé, en d'autres termes, la vitesse à laquelle l'IA s'emparera de la recherche".

Les anciens dirigeants de Google ainsi que de nombreux analystes de Wall Street s'accordent à dire que Google dispose de la matière première nécessaire pour prendre une longueur d'avance dans le domaine de l'IA - un grand modèle de langage pour entraîner son IA et un moteur de recherche. Mais les efforts de l'entreprise semblent dispersés face à l'assaut d'OpenAI, qui attire des utilisateurs plus jeunes.

La popularité de l'IA générative a pris Google par surprise. Bien qu'elle soit à l'origine des recherches fondamentales sur la technologie, l'entreprise n'a lancé un produit grand public que bien après que ChatGPT soit devenue l'application grand public à la croissance la plus rapide au début de l'année 2023.

"La plus grande menace pour Google pourrait être Google lui-même - la confiance est la clé de l'adoption de toute IA, et ses premiers faux pas avec Search Overviews ont montré que les ingénieurs de Google se concentraient davantage sur des versions rapides que sur la réussite, alors qu'ils tentent de suivre le rythme d'OpenAI et d'autres", a déclaré Rebecca Wettemann, PDG et analyste principale du cabinet d'études Valoir.

Mme Wettemann a fait référence aux "AI Overviews" de Google, une nouvelle fonctionnalité qui utilise l'IA pour répondre aux requêtes de recherche qui apparaissent avant les liens. Cette fonction a été critiquée par les éditeurs qui ont vu le trafic de référence de Google diminuer et qui ont été accusés d'avoir commis des erreurs, notamment en disant aux utilisateurs de manger de la colle et en affirmant que Barack Obama était musulman. Google a réduit cette fonctionnalité au début de l'année.

Gil Luria, analyste chez D.A. Davidson, estime que la surveillance réglementaire et la menace de l'IA sont liées. "Si le ministère de la justice s'en prend aux pratiques commerciales de Google, c'est en partie parce que le marché est en pleine mutation et qu'il veut s'assurer que Google n'étend pas sa domination actuelle sur le marché."

Si la décision antitrust n'a pas encore d'impact majeur sur Google, elle devrait ouvrir le marché de la recherche à d'autres acteurs, a déclaré Richard Socher, PDG et fondateur de la startup You.com, un moteur de recherche basé sur l'IA, et ancien directeur scientifique de Salesforce. Il ajoute toutefois qu'il sera "très difficile" de mettre fin à la domination de Google dans le domaine de la recherche. "Personne n'a encore vraiment réussi à entamer la domination de Google dans le domaine de la recherche [...] Nous devrons voir s'il s'agit d'une nouvelle pièce en domino qui se mettra en place pour donner aux consommateurs plus de choix, de vrais choix."

Source : Arvind Jain, ancien ingénieur de Google

Et vous ?

Pensez-vous que l'affirmation qu'"OpenAI représente une plus grande menace pour Google que les régulateurs américains" est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Quel moteur de recherche pourrait être le prochain Google ? Voici comment certains essaient de détrôner le géant de Mountain View

OpenAI lance SearchGPT, un prototype de moteur de recherche propulsé par l'IA, pour défier le monopole de Google, mais le produit est sujet aux hallucinations et suscite de nombreuses autres préoccupations

L'accord de 21 ans conclu à coups de milliards de dollars entre Google et Apple est le « cœur » de l'affaire de monopole sur les services Internet, selon le juge Amit Mehta

L'IA de Google conseille aux utilisateurs de mettre de la colle sur les pizzas pour empêcher le fromage de glisser, une suggestion tirée d'un commentaire Reddit vieux de 11 ans

[Stéphane le calme]

Paul Buchheit, le créateur de Gmail, explique comment Google s'est retrouvé à la traîne dans la course à la révolution de l'IA,
Malgré ses ressources considérables en données et en talents

Lorsque Larry Page et Sergey Brin ont lancé Google en 1998, ils l’ont imaginé comme une entreprise axée sur l’intelligence artificielle (IA). Cependant, au fil des années, Google a changé de cap. Paul Buchheit, le créateur de Gmail, a récemment expliqué dans un épisode du podcast Y Combinator Startup pourquoi il pense que Google a pris du retard dans la course à l’IA.

Changement de priorités

Buchheit, à qui l'on doit également la devise originale de Google « Don't be evil », pense que Google s'est peut-être égaré lorsqu'il s'est réorganisé sous sa nouvelle société mère, Alphabet, en 2015. Les fondateurs ont pris du recul et le PDG Sundar Pichai a pris la barre. C'est à ce moment-là que l'entreprise s'est concentrée sur la préservation de son monopole sur la recherche, a déclaré Buchheit.

« Ils ont, vous savez, cette mine d'or, la recherche est tellement précieuse », a-t-il déclaré.

Au lieu de se concentrer sur l’innovation en matière d’IA, l’entreprise a privilégié la préservation de son monopole dans le domaine de la recherche. Buchheit explique que l’IA est une technologie intrinsèquement perturbatrice, tandis que la recherche axée sur les annonces publicitaires crée une tension inhérente. Lorsque vous répondez directement aux requêtes des utilisateurs, vous les dissuadez de cliquer sur les annonces. Google a donc dû jongler entre rentabilité et qualité des résultats.

Ce n'est pas seulement l'analyse de Buchheit ; c'est aussi quelque chose que Page et Brin ont noté dans leur document fondateur de 1998 présentant Google. Ils ont déclaré que la technologie des moteurs de recherche était « en grande partie un art noir » et qu'elle était « orientée vers la publicité ». Avec Google, cependant, leur objectif était de « fournir des résultats de recherche de haute qualité sur un World Wide Web en pleine expansion ».

Les déboires de Google en matière d’IA

Malgré ses ressources considérables en données et en talents, Google n’a pas réussi à révolutionner le domaine de l’IA.

Lors d’une démonstration de Bard, son concurrent fait maison de ChatGPT, il a fourni une réponse incorrecte, entraînant une perte de 100 milliards de dollars de valeur boursière en une seule journée.

Google a ajouté une nouvelle fonctionnalité à son moteur de recherche : AI Overviews (aperçus de l'IA). Il s'agit de résumés concis générés par l'IA et qui apparaissent directement sur les pages de résultats de recherche de Google. Lancée le 14 mai, cette fonctionnalité est conçue pour aider les internautes à comprendre rapidement un sujet en combinant des informations provenant de différentes sources, dont les pages Web des résultats de recherche et la base de connaissances de Google. Les résumés sont placés en haut de la page des résultats de recherche, et au-dessus des résultats rédigés par des humains.

Peu après, les utilisateurs ont commencé à partager sur les réseaux sociaux les captures d'écran des réponses les plus farfelues générées par cette fonctionnalité. Google a largement défendu sa fonction de résumés générés par l'IA, affirmant qu'elle était généralement précise et qu'elle avait fait l'objet de tests approfondis au préalable. Mais Liz Reid, responsable de la recherche chez Google, a reconnu que « la fonctionnalité peut parfois générer des résumés bizarres, inexacts ou inutiles ». Toutefois, si certains des résumés sont des stupidités, d'autres sont des faussetés dangereuses ou nuisibles.

Par exemple, l'outil, qui fournit des résumés des résultats de recherche générés par l'IA, a semblé demander à un utilisateur de mettre de la colle sur une pizza lorsqu'il a cherché « le fromage n'adhère pas à la pizza ». En cherchant des solutions au problème du fromage qui ne colle pas à la pizza, une capture d'écran du résumé qu'il a généré, partagée sur X, montre qu'il a répondu « le fromage peut glisser de la pizza pour un certain nombre de raisons » et que l'utilisateur pourrait essayer d'ajouter « environ 1/8 de tasse de colle non toxique à la sauce pour augmenter son adhérence ».

Selon un autre utilisateur de X, la suggestion semble avoir été basée sur un commentaire Reddit datant d'il y a 11 ans, qui était probablement écrit sur le ton de la plaisanterie.

L'Associated Press a interrogé Google sur les champignons sauvages comestibles. Le moteur de recherche a répondu avec un long résumé généré par l'IA. Mais la réponse manquait de détails et l'IA semblait également se tromper sur les champions comestibles. « Le résumé était pour l'essentiel correct d'un point de vue technique, mais il manque de nombreuses informations susceptibles de provoquer des maladies, ou même des décès », a déclaré Mary Catherine Aime, professeur de mycologie et de botanique à l'université de Purdue, qui a examiné la réponse de Google à la requête de l'Associated Press.

« Par exemple, les informations sur les champignons connus sous le nom de "puffballs" étaient plus ou moins correctes, mais l'aperçu de Google mettait l'accent sur la recherche de ceux dont la chair est d'un blanc solide, ce qui est le cas de nombreux imitateurs de "puffballs" potentiellement mortels », a-t-elle déclaré. La situation suscite bien sûr des préoccupations, car un utilisateur qui fait confiance à l'IA Google et ramasse malencontreusement des champignons vénéneux s'expose à des dangers, voire la mort. Les experts en IA mettent en garde depuis des années contre une confiance excessive dans les réponses d'une IA.

Gemini, l'IA woke de Google ?

Fin février, Google a présenté ses excuses pour ce qu’il décrit comme des « inexactitudes dans certaines représentations historiques générées par l’image » avec son outil Gemini, en disant que ses tentatives de créer une « large gamme » de résultats ont manqué la cible. Gemini est un outil d’intelligence artificielle lancé par Google qui peut créer des images en réponse à des requêtes écrites. Il a rapidement attiré des critiques, qui ont accusé l’entreprise de former le bot à être trop «woke».

Les résultats semblaient montrer de manière écrasante ou exclusive des personnes de couleur générées par l'IA (bien sûr, tous les endroits qu'il a cités comptent des femmes de couleur, et aucune des femmes générées par l'IA n'existe dans aucun pays). La critique a été reprise par des comptes de droite qui ont demandé des images de groupes historiques ou de personnages tels que les Pères fondateurs et qui ont prétendument obtenu comme résultats des personnes générées par l'IA qui n'étaient pas blanches dans leur grande majorité.

Certains de ces comptes ont présenté les résultats de Google comme faisant partie d'une conspiration visant à éviter la représentation de personnes blanches, et au moins un compte a utilisé une référence antisémite codée pour rejeter la faute sur les autres.

Google a décidé de suspendre la génération d'images de personnes par Gemini, le temps d'effectuer les modifications nécessaires.

Sundar Pichai, PDG de Google, a abordé la controverse sur Gemini, qualifiant d'inacceptables les réponses problématiques de l'application d'intelligence artificielle en matière d'origine ethnique et s'engageant à procéder à des changements structurels pour résoudre le problème.

La plupart des entreprises qui proposent des outils d'IA comme Gemini créent des garde-fous pour limiter les abus et éviter les préjugés, en particulier à la lumière d'autres expériences. Par exemple, les outils de génération d'images d'entreprises comme OpenAI ont été critiqués lorsqu'ils ont créé des images prédominantes de personnes blanches dans des rôles professionnels et dépeignant des personnes noires dans des rôles stéréotypés.

« Je sais que certaines de ses réponses ont offensé nos utilisateurs et montré des préjugés - pour être clair, c'est tout à fait inacceptable et nous nous sommes trompés », a déclaré Pichai dans la note.

Conclusion

En somme, Google a pris du retard dans la course à l’IA en raison de ses choix stratégiques et de ses priorités. Pour rester à la pointe de l’innovation, l’entreprise doit réévaluer sa vision et investir dans des domaines tels que l’apprentissage profond, la compréhension du langage naturel et la recherche fondamentale. Seule une approche équilibrée entre rentabilité et innovation permettra à Google de retrouver sa place de leader dans le domaine de l’IA.

Sources : fondateurs de Google, Paul Buchheit

Et vous ?

Quelle est votre opinion sur la direction actuelle de Google en matière d’IA ? Pensez-vous que Google devrait se recentrer sur l’innovation en IA ou soutenez-vous la priorité donnée à la recherche axée sur les annonces publicitaires ?
Pensez-vous que l’IA devrait être une priorité pour les grandes entreprises technologiques ? Estimez-vous que les entreprises comme Google, Meta (anciennement Facebook) et Microsoft devraient investir davantage dans l’IA ? Pourquoi ?
Quelles sont les implications de l’utilisation de l’IA dans la société ? Abordez les avantages et les inconvénients de l’IA, en particulier en ce qui concerne la vie privée, la sécurité et l’emploi.
Quelles autres entreprises technologiques sont en avance dans la course à l’IA ? Partagez vos observations sur les entreprises qui excellent dans ce domaine et donnez votre avis sur les raisons qui peuvent l’expliquer.

[Jade Emy]

Google va relancer l'outil de génération d'images de personnes par l'IA, après avoir "mise en pause" la fonction à la suite du tollé suscité par des résultats historiquement inexactes.

Google va relancer Imagen 3, l'outil de création d'images de personnes générées par l'IA. L'entreprise a mis en pause cette option de Gemini en février 2024 à la suite d'inexactitudes et d'une série de controverses. Imagen 3 ne prendra pas en charge les personnes identifiables de manière photo-réaliste, les représentations de mineurs ou les scènes excessivement gores, violentes ou sexuelles.

Février dernier, Gemini, l'outil d'intelligence artificielle (IA) de Google qui peut créer des images en réponse à des requêtes écrites, était critiqué pour avoir généré des représentations des personnes historiques inexactes dans de nombreux résultats. Par exemple, l'IA générait les pères fondateurs des États-Unis ou les soldats allemands de l'époque nazie, des personnages spécifiquement blancs, en tant que personnes de couleur. Google était notamment accusé de former le chatbot à être trop "woke".

Google a présenté ses excuses pour ce qu’il décrit comme des "inexactitudes dans certaines représentations de génération d'images historiques". Google ajoute que "cela fait partie du processus d'alignement - itération sur le retour d'information."En d'autre terme, les erreurs seraient le résultat d'une correction excessive des problèmes de préjugés raciaux. De plus, Google a suspendu l'option de génération d'images de personnes par Gemini pendant qu'elle effectuait les modifications nécessaires.

Récemment, Google a déclaré qu'il permettrait bientôt aux utilisateurs de créer des images de personnes à l'aide de son outil d'IA Gemini, après avoir l'avoir "mis en pause". Dave Citron, directeur principal des produits pour Gemini, a indiqué qu'un accès anticipé au nouveau générateur Imagen 3 de Google serait disponible pour les utilisateurs de Gemini Advanced, Business et Enterprise à partir de l'anglais dans les jours à venir.

Dave Citron a déclaré : "Nous nous sommes efforcés d'apporter des améliorations techniques au produit, ainsi que des ensembles d'évaluation améliorés, des exercices de red-teaming et des principes de produit clairs". Le red-teaming fait référence à une pratique utilisée par les entreprises pour tester leurs produits afin d'en détecter les vulnérabilités.

Google a interrompu sa fonction de génération d'images au début de l'année après avoir déclaré qu'elle présentait des "inexactitudes" dans les images historiques. Par exemple, un utilisateur a demandé à l'outil de générer l'image d'un soldat allemand en 1943, et celui-ci a créé un ensemble de soldats racialement diversifiés portant des uniformes militaires allemands. Une autre requête portant sur une représentation historique d'un roi britannique médiéval a également généré un ensemble d'images racialement diversifiées, dont une femme souveraine.

Selon M. Citron, Imagen 3 ne prend pas en charge les individus identifiables de manière photoréaliste, les représentations de mineurs ou les scènes excessivement gores, violentes ou sexuelles. "Bien entendu, comme pour tout outil d'IA générative, toutes les images créées par Gemini ne seront pas parfaites, mais nous continuerons à écouter les commentaires des premiers utilisateurs pour continuer à nous améliorer", ajoute M. Citron.

Imagen 3, sera déployé dans Gemini, pour les utilisateurs Gemini Advanced, Business et Enterprise. M. Citron conclut : "Nous allons progressivement déployer cette fonctionnalité, afin de l'offrir bientôt à un plus grand nombre d'utilisateurs et de langues."

Voici la présentation d'Imagen 3 par Google :

Générer des images de haute qualité avec Imagen 3

Nous avons amélioré nos capacités de génération d'images créatives et, dans les jours à venir, nous apporterons notre dernier modèle de génération d'images, Imagen 3, à Gemini Apps et étendrons sa disponibilité pour les utilisateurs dans toutes les langues.

Exemple d'invite : Une image animée d'un minuscule dragon sortant d'un œuf dans une prairie ensoleillée, entouré de curieux papillons lumineux. Des couleurs vives, des écailles détaillées

Imagen 3 établit une nouvelle norme en matière de qualité d'image, en générant des images avec seulement quelques mots. Vous pouvez même demander à Gemini de créer des images dans différents styles - comme des paysages photoréalistes, des peintures à l'huile texturées ou des scènes fantaisistes en pâte à modeler.

Imagen 3 offre des fonctionnalités avancées de génération d'images, assorties de protections intégrées et conformes à nos principes de conception de produits. Sur un large éventail de points de référence, Imagen 3 se comporte favorablement par rapport aux autres modèles de génération d'images disponibles. Comme pour Imagen 2, nous utilisons SynthID, notre outil de filigrane pour les images générées par l'IA.

Nos principes de conception sont clairs : du début à la fin, vous gardez le contrôle du processus de création. Si l'image initiale que vous obtenez ne répond pas à vos attentes, il vous suffit d'indiquer à Gemini ce que vous souhaitez modifier et il vous proposera une nouvelle image.

Dans les prochains jours, nous commencerons également à déployer la génération d'images de personnes, avec une version d'accès anticipé pour nos utilisateurs de Gemini Advanced, Business et Enterprise, à partir de l'anglais. Nous nous sommes efforcés d'apporter des améliorations techniques au produit, ainsi que des ensembles d'évaluation améliorés, des exercices de red-teaming et des principes de produit clairs.

Avec Imagen 3, nous avons fait des progrès significatifs en offrant une meilleure expérience utilisateur lors de la génération d'images de personnes. Nous ne soutenons pas la génération d'individus photoréalistes et identifiables, de représentations de mineurs ou de scènes excessivement gores, violentes ou sexuelles. Bien entendu, comme pour tout outil d'IA générative, toutes les images créées par Gemini ne seront pas parfaites, mais nous continuerons à écouter les commentaires des premiers utilisateurs pour continuer à nous améliorer. Nous déploierons progressivement cette fonctionnalité, afin de l'offrir bientôt à un plus grand nombre d'utilisateurs et de langues.

Source : Google

Et vous ?

Avez-vous utilisé cet outil ou un outil similaire, et si oui qu'en pensez-vous ?
Pensez-vous que cette décision de Google de relancer l'outil controversé est crédible ou pertinente ?

Voir aussi :

Le PDG de Google qualifie de « totalement inacceptables » les erreurs de diversité commises par l'IA Gemini. Elles ont coûté 90 milliards de dollars à la capitalisation boursière de l'entreprise

Comment la créativité a quitté les chats IA : le prix de la réduction des biais dans les LLM. Si la censure est efficace pour réduire les biais et la toxicité, elle conduit à une réduction du potentiel créatif

Les choses sont sur le point d'empirer pour l'IA générative : DALL-E d'OpenAI et Midjourney ont généré des images et marques protégées sans y être invités par des utilisateurs