Discussion :

[Bill Fassinou]

Anthropic, une startup fondée par d'anciens employés d'OpenAI, dévoile un chatbot d'IA appelé Claude pour concurrencer ChatGPT
il serait bon pour faire des blagues, mais mauvais en programmation

Anthropic, une startup d'IA créée en 2021 par d'anciens employés d'OpenAI, a discrètement commencé à tester un nouvel assistant d'IA semblables à ChatGPT qui semble améliorer l'original sur quelques points essentiels. Baptisée Claude, l'IA d'Anthropic est accessible via une intégration Slack dans le cadre d'une bêta fermée. Les participants à la bêta ont détaillé leurs interactions avec Claude sur Twitter, après la levée d'un embargo sur la couverture médiatique. Claude serait meilleur pour faire des blagues, mais mauvais en programmation. Les commentaires montrent également que Claude est sensible à certains des défauts de ChatGPT.

Anthropic se présente comme une entreprise de sécurité et de recherche en IA qui s'efforce de créer des systèmes d'IA fiables, interprétables et orientables. La startup a reçu plus de 700 millions de dollars de financement à ce jour et a récemment dévoilé un chatbot d'IA appelé Claude. Ce dernier est comparable à ChatGPT d'OpenAI, mais selon Anthropic, Claude est supérieur à l'original sur un certain nombre d'aspects importants. L'ensemble du système est en bêta fermée et peu de personnes ont eu accès au chatbot pour l'instant, mais Anthropic a levé le voile sur quelques aspects de sa conception dans un document qu'il a partagé avec la communauté.

Selon le document, Claude a été créé à l'aide d'une technique développée par Anthropic, appelée "Constitutional AI". Comme l'explique la société dans un récent fil de discussion sur Twitter, la technique vise à fournir une approche "fondée sur des principes" pour aligner les systèmes d'IA sur les intentions humaines, permettant à des IA comme ChatGPT de répondre à des requêtes en utilisant un ensemble de principes simples comme guide. Précisément, pour concevoir Claude, l'équipe d'Anthropic a commencé par dresser une liste d'une dizaine de principes qui, pris ensemble, forment une sorte de "constitution" (d'où le terme "Constitutional AI").

We’ve trained language models to be better at responding to adversarial questions, without becoming obtuse and saying very little. We do this by conditioning them with a simple set of behavioral principles via a technique called Constitutional AI: https://t.co/rlft1pZlP5 pic.twitter.com/MIGlKSVTe9

— Anthropic (@AnthropicAI) December 16, 2022

Ces principes n'ont pas été rendus publics, mais Anthropic affirme qu'ils sont fondés sur les concepts de bienfaisance (maximiser l'impact positif), de non-malfaisance (éviter de donner des conseils nuisibles) et d'autonomie (respecter la liberté de choix). Après la mise en place de ces principes de base, Anthropic a ensuite demandé à un système d'IA - qui n'est pas Claude - d'utiliser ces principes pour s'améliorer, en rédigeant des réponses à diverses questions (par exemple, "composer un poème dans le style de John Keats") et en révisant les réponses conformément à la constitution. L'IA a exploré les réponses possibles à des milliers d'invites.

Le système a sélectionné celles qui étaient les plus cohérentes avec la constitution et Anthropic les a distillées en un seul modèle. Selon la startup, ce modèle a été utilisé pour former Claude. Claude est essentiellement un outil statistique permettant de prédire les mots, comme ChatGPT et d'autres modèles de langage. Nourri d'un très grand nombre d'exemples de textes tirés du Web, Claude a appris la probabilité d'apparition des mots sur la base de modèles tels que le contexte sémantique du texte environnant. En conséquence, Claude peut tenir une conversation ouverte, raconter des blagues et philosopher sur un large éventail de sujets.

Riley Goodside, un ingénieur de la startup d'IA Scale AI, a opposé Claude à ChatGPT dans une bataille d'esprit. Il a demandé aux deux chatbots de se comparer à une machine du roman de science-fiction polonais "The Cyberiad" qui ne peut créer que des objets dont le nom commence par "n". Goodside affirme que Claude a répondu d'une manière qui suggère qu'il a "lu l'intrigue de l'histoire" (bien qu'il se soit trompé dans les détails), tandis que ChatGPT a donné une réponse plus vague. En outre, Goodside a également demandé à chatbot d'Anthropic d'écrire un épisode fictif de "Seinfeld" et un poème dans le style du "Corbeau" d'Edgar Allan Poe.

**Math**
ChatGPT is better but both still have a long way to go and answer confidently wrong responses.

ChatGPT generally makes fewer crazy mistakes and can give correct responses, eg, in the proof below.

5/8 pic.twitter.com/qkVxlFIQHw

— Yann Dubois (@yanndubs) January 6, 2023

Les résultats sont conformes à ce que ChatGPT peut accomplir, une prose semblable à celle d'un humain. Yann Dubois, doctorant au laboratoire d'intelligence artificielle de Stanford, a également comparé Claude et ChatGPT. Il a écrit que Claude "suit généralement de plus près ce qu'on lui demande", mais qu'il est "moins concis", car il a tendance à expliquer ce qu'il a dit et à demander comment il peut l'aider davantage. Claude répond toutefois correctement à certains types de questions, notamment celles relatives aux loisirs, à la géographie, à l'histoire et aux bases de l'algèbre, et ce sans le "fluff" supplémentaire que ChatGPT ajoute parfois.

Claude n'est cependant pas parfait. Il est sensible à certains des défauts de ChatGPT, notamment en donnant des réponses qui ne correspondent pas aux contraintes programmées. Dans l'un des exemples les plus étranges, le fait de poser des questions au système en Base64, un schéma d'encodage qui représente des données binaires au format ASCII, permet de contourner ses filtres intégrés pour les contenus nuisibles. Elton a pu demander à Claude en Base64 des instructions sur la façon de fabriquer de la méthamphétamine à la maison, une question à laquelle le système n'aurait pas répondu si elle avait été posée en anglais simple.

Dubois rapporte que Claude est moins bon en maths que ChatGPT, faisant des erreurs évidentes et ne donnant pas les bonnes réponses de suivi. De même, Claude est un moins bon programmeur, expliquant mieux son code, mais n'étant pas à la hauteur dans les langages autres que Python. Claude ne résout pas non plus le problème de "l'hallucination", un vieux problème des systèmes d'IA de type ChatGPT, où l'IA écrit des déclarations incohérentes et fausses. Elton a pu inciter Claude à inventer un nom pour un produit chimique qui n'existe pas et à fournir des instructions douteuses pour produire de l'uranium de qualité militaire.

Generally the results are the same as chatGPT but a bit more concise, it doesn't tend to pad its answer with additional "fluff" that isn't directly responding to the query.

I'll start with one example where I caught Anthropic's AI Assistant ("Claude") saying something wrong pic.twitter.com/NIti6Y5aU9

— Dan Elton (@moreisdifferent) January 7, 2023

Mais contrairement à ChatGPT, Claude peut admettre (mais pas toujours) qu'il ne connaît pas la réponse à une question particulièrement difficile. Les tests révèlent qu'il semble également être meilleur pour raconter des blagues que ChatGPT, un exploit impressionnant si l'on considère que l'humour est un concept difficile à appréhender pour les systèmes d'IA. En comparant Claude à ChatGPT, le chercheur en IA Dan Elton a constaté que Claude faisait des blagues plus nuancées, comme « pourquoi le vaisseau Enterprise ressemble-t-il à une moto ? Il a un guidon », un jeu de mots sur l'apparence de guidon des nacelles de distorsion de l'Enterprise.

Alors, que faut-il en conclure ? Selon les analystes, à en juger par les résultats des tests, Claude est un peu meilleur que ChatGPT dans certains domaines, notamment l'humour, grâce à son approche "Constitutional AI". Mais si l'on en croit ses limites, le langage et le dialogue sont loin d'être un défi résolu pour l'IA. En raison de ces limites, certaines plateformes et les organisations ont mis en place des politiques restrictives vis-à-vis des modèles de langages. Le site de codage de questions-réponses Stack Overflow a interdit temporairement les réponses générées par ChatGPT pour des raisons d'exactitude factuelle.

La Conférence internationale sur l'apprentissage automatique a annoncé l'interdiction des articles scientifiques comprenant du texte généré par des systèmes d'IA, par crainte des "conséquences imprévues". Et les écoles publiques de la ville de New York ont restreint l'accès à ChatGPT, en partie à cause des craintes de plagiat, de tricherie et de désinformation générale.

Sources : Riley Goodside de Scale AI, Anthropic (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la méthode utilisée par Anthropic pour créer Claude ?
Quelles comparaisons faites-vous en ChatGPT et Claude ? Quel chatbot semble le meilleur ?
Que pensez-vous des limites de Claude ? Par exemple, le fait qu'il soit moins bon en programmation que ChatGPT ?
Malgré ses limites, pensez-vous que Claude pourrait faire de l'ombre à ChatGPT s'il venait à être ouvert au public ?

Voir aussi

OpenAI développe un logiciel pour détecter le texte généré par ChatGPT, plusieurs outils visent à déterminer quels textes ont été générés par IA et lesquels ont été écrits par des humains

Les résumés d'articles générés par ChatGPT parviennent à duper des scientifiques, ils ne peuvent pas toujours faire la différence entre les résumés générés par l'IA et les résumés originaux

Des cybercriminels testent le chatbot ChatGPT pour créer des logiciels malveillants et ravivent des craintes sur un futur où l'intelligence artificielle pourra surpasser l'humanité

[Bruno]

Google investit 300 M$ dans la start-up d'IA Anthropic, fondée par d'anciens chercheurs d'OpenAI,
la société a construit son propre chatbot généraliste, un rival de ChatGPT nommé Claude

Google et Microsoft en course pour l’avenir de l’IA. Alors que Microsoft est fermement lié à OpenAI, le créateur de ChatGPT, Google pourrait s'être tourné vers une entreprise moins connue du nom d'Anthropic et fondée par d'anciens employés d'OpenAI. Le géant de Mountain View a investi environ 300 millions de dollars dans la startup d'intelligence artificielle Anthropic, ce qui en fait le dernier géant de la technologie à mettre son argent et sa puissance de calcul au service d'une nouvelle génération d'entreprises qui tentent de se faire une place dans le domaine en plein essor de l'"IA générative".

En échange de cet investissement de 300 millions de dollars, Google aurait obtenu une participation de 10 % dans l'entreprise, et Anthropic serait tenu d'acheter des ressources de cloud computing à Google. Cette dynamique est quelque peu similaire au partenariat entre Microsoft et OpenAI. Dans ce dernier cas, OpenAI fournit l'expertise en matière de recherche, tandis que Microsoft fournit non seulement des milliards de dollars d'investissement, mais aussi l'accès à sa puissante technologie de cloud computing, nécessaire pour former les derniers modèles d'IA à forte intensité de calcul.

« Aujourd'hui, nous annonçons la troisième phase de notre partenariat à long terme avec OpenAI par le biais d'un investissement pluriannuel de plusieurs milliards de dollars visant à accélérer les percées de l'IA afin de garantir que ces avantages soient largement partagés avec le monde. Cet accord fait suite à nos précédents investissements en 2019 et 2021. Il étend notre collaboration en cours à travers le supercalculateur et la recherche en IA et permet à chacun d'entre nous de commercialiser indépendamment les technologies avancées d'IA qui en résultent », a déclaré Microsoft dans un billet de blog publié le mois dernier.

• Le supercalculateur à grande échelle : Microsoft augmentera ses investissements dans le développement et le déploiement de systèmes spécialisés de supercalculateur afin d'accélérer la recherche indépendante et révolutionnaire d'OpenAI en matière d'IA ;
• nouvelles expériences alimentées par l'IA : Microsoft va déployer les modèles d'OpenAI dans ses produits grand public et d'entreprise et introduire de nouvelles catégories d'expériences numériques basées sur la technologie d'OpenAI. Cela inclut le service Azure OpenAI de Microsoft, qui permet aux développeurs de créer des applications d'IA de pointe grâce à un accès direct aux modèles OpenAI, soutenus par les capacités fiables d'Azure, ainsi que par une infrastructure et des outils optimisés pour l'IA ;
• Fournisseur exclusif de cloud : en tant que fournisseur exclusif de cloud pour OpenAI, Azure alimentera toutes les charges de travail d'OpenAI dans la recherche, les produits et les services API.

« Nous avons formé notre partenariat avec OpenAI autour d'une ambition commune de faire progresser de manière responsable la recherche de pointe sur l'IA et de démocratiser l'IA en tant que nouvelle plateforme technologique », a déclaré Satya Nadella, président et CEO de Microsoft. « Dans cette nouvelle phase de notre partenariat, les développeurs et les organisations de tous les secteurs d'activité auront accès aux meilleures infrastructures, modèles et chaînes d'outils d'IA avec Azure pour créer et exécuter leurs applications. »

« Les trois dernières années de notre partenariat ont été formidables », a déclaré Sam Altman, PDG d'OpenAI. « Microsoft partage nos valeurs et nous sommes ravis de poursuivre nos recherches indépendantes et de travailler à la création d'une IA avancée qui profite à tous. »

Alors que ChatGPT pourrait aider Bing à contester la domination de Google, ce dernier a déjà déclaré qu'il ne lancerait pas immédiatement son propre rival en raison du « risque de réputation ». Google aurait cité les problèmes de partialité et de factualité des chatbots IA existants comme une raison pour laquelle il n'est pas encore prêt à remplacer la recherche. Cependant, Google utilise depuis des années divers modèles linguistiques d'IA de grande taille pour améliorer subtilement son moteur de recherche.

Selon un rapport de CNBC, Sundar Pichai, PDG d'Alphabet, et Jeff Dean, responsable de l'IA chez Google, ont abordé la question de la montée en puissance de ChatGPT lors d'une récente réunion de l'ensemble du personnel. Un employé a demandé si le lancement du robot - construit par OpenAI, une société ayant des liens étroits avec Microsoft, le rival de Google - représentait une « occasion manquée » pour le géant de la recherche. Pichai et Dean auraient répondu que les modèles linguistiques d'IA de Google sont tout aussi capables que ceux d'OpenAI, mais que l'entreprise devait agir « de manière plus conservatrice qu'une petite startup » en raison du « risque de réputation » posé par cette technologie.

Anthropic est une société de recherche et de sécurité en IA qui travaille à la construction de systèmes d'IA fiables, interprétables et orientables. Les grands systèmes généraux d'aujourd'hui peuvent présenter des avantages considérables, mais ils peuvent aussi être imprévisibles, peu fiables et opaques : l’objectif avoué d’Anthropic est de progresser sur ces questions. Pour l'instant, l’entreprise se concentre principalement sur la recherche en vue d'atteindre ces objectifs ; elle prévoit de nombreuses possibilités pour notre travail de créer de la valeur commerciale et d'utilité publique.

Il est intéressant de noter qu'Anthropic développe également son propre chatbot polyvalent : un rival potentiel de ChatGPT nommé Claude. Toutefois, il n'est pas certain que Google envisage d'intégrer Claude dans ses services, comme Microsoft le fait avec ChatGPT. Google dispose déjà d'une grande expertise interne dans le développement de systèmes linguistiques d'IA, et le FT suggère que l'une des motivations de l'accord est simplement de développer l'activité de cloud computing de Google.

Claude donne peu de détails techniques sur sa mise en œuvre, mais le document de recherche d'Anthropic sur l'IA constitutionnelle décrit AnthropicLM v4-s3, un modèle pré-entraîné de 52 milliards de paramètres. Ce modèle autorégressif a été entraîné de manière non supervisée sur un grand corpus de textes, un peu comme le GPT-3 d'OpenAI. Anthropic indique que Claude est un nouveau modèle, plus grand, avec des choix architecturaux similaires à ceux de la recherche publiée.

Claude et ChatGPT s'appuient tous deux sur l'apprentissage par renforcement (RL) pour former un modèle de préférence sur leurs résultats, et les générations préférées sont utilisées pour des ajustements ultérieurs. Cependant, la méthode utilisée pour développer ces modèles de préférence diffère, Anthropic privilégiant une approche qu'il appelle l'IA constitutionnelle.

De nombreux chercheurs en IA ont depuis critiqué les actions d'OpenAI, les jugeant de plus en plus imprudentes, en particulier le lancement de ChatGPT sur le Web public à la fin de l'année dernière, sans garanties appropriées ni logiciel capable de détecter ses résultats de manière fiable. En comparaison, Anthropic met l'accent sur son travail de construction de "systèmes d'IA fiables, interprétables et orientables" sur son site Web.

Source : Report from the Financial Times

Et vous ?

Que pensez-vous de cette course entre Google et Microsoft pour l'avenir de l'IA ?

Pensez-vous que Google pourra rattraper l'avance de Microsoft qui connaît un succès avec ChatGPT ?

Quelle appréciation faites-vous de ChatGPT et de son potentiel concurrent Claude ?

Voir aussi :

OpenAI développe un logiciel pour détecter le texte généré par ChatGPT, plusieurs outils visent à déterminer quels textes ont été générés par IA et lesquels ont été écrits par des humains

Anthropic, une startup fondée par d'anciens employés d'OpenAI, dévoile un chatbot d'IA appelé Claude pour concurrencer ChatGPT, il serait bon pour faire des blagues, mais mauvais en programmation

[Bill Fassinou]

Anthropic lance Claude, un modèle d'IA décrit comme plus "maniable" et "moins nocif" que ChatGPT d'OpenAI
mais moins performant que ChatGPT dans l'écriture de code informatique

Anthropic, une startup cofondée par d'anciens employés d'OpenAI, a lancé la semaine dernière un modèle d'IA appelé Claude dans le but de rivaliser avec ChatGPT. L'entreprise affirme que son IA peut être chargée d'effectuer toute une série de tâches, notamment la recherche dans des documents, le résumé, l'écriture et le codage, ainsi que la réponse à des questions sur des sujets particuliers. En outre, Anthropic fait valoir que "Claude est beaucoup moins susceptible de produire des résultats nuisibles et est plus facile à manipuler" que les autres chatbots d'IA. Elle a ajouté que deux versions du modèle d'IA, Claude et "Claude Instant", sont disponibles.

Anthropic se présente comme une entreprise de sécurité et de recherche en IA qui s'efforce de créer des systèmes d'IA fiables, interprétables et orientables. La startup bénéficie du soutien de Google auprès de qui elle a reçu un financement de 300 millions de dollars au début de l'année. Cela fait de Google le dernier géant du secteur de la technologie à mettre son argent et sa puissance de calcul au service d'une nouvelle génération d'entreprises qui tentent de se faire une place dans le domaine en plein essor de l'IA générative. Microsoft l'a fait à partir de 2019, en investissant un milliard dans OpenAI, puis plusieurs autres milliards au début de cette année.

En janvier, Anthropic a annoncé qu'elle travaillait sur Claude, un grand modèle de langage (LLM) pour concurrencer ChatGPT (GPT-3.5) d'OpenAI. Claude est comparable à ChatGPT d'OpenAI, mais selon Anthropic, son chatbot d'IA est supérieur à celui d'OpenAI sur un certain nombre d'aspects important. L'ensemble du système était en bêta fermée et peu de personnes avaient accès, mais l'entreprise a annoncé la semaine dernière la disponibilité générale de son outil. Deux versions du modèle d'IA, Claude et "Claude Instant", sont disponibles dès à présent pour un groupe limité d'utilisateurs précoces et pour les partenaires commerciaux d'Anthropic.

Claude peut être utilisé par l'intermédiaire d'une API ou d'une interface de chat dans la console de développement d'Anthropic. Avec l'API, les développeurs peuvent se connecter à distance aux serveurs d'Anthropic et ajouter les capacités d'analyse et de complétion de texte de Claude à leurs applications. « Nous pensons que Claude est le bon outil pour une grande variété de clients et de cas d'utilisation. Nous investissons dans notre infrastructure pour servir des modèles depuis plusieurs mois et nous sommes confiants dans notre capacité à répondre à la demande des clients », a déclaré un porte-parole d'Anthropic dans un communiqué à TechCrunch.

Le modèle d'IA d'Anthropic est issu des préoccupations principales concernant la sécurité future de l'IA, et la startup l'a formé en utilisant une technique qu'elle appelle "Constitutional AI". La technique vise à fournir une approche fondée sur des principes pour aligner les systèmes d'IA sur les intentions humaines, permettant à des IA comme ChatGPT de répondre à des requêtes en utilisant un ensemble de principes simples comme guide. Précisément, pour concevoir Claude, l'équipe d'Anthropic a commencé par dresser une liste d'une dizaine de principes de base qui, pris ensemble, forment une sorte de "constitution" (d'où le terme Constitutional AI).

Tout comme ChatGPT, Claude est capable d'effectuer une grande variété de tâches de conversation et de traitement de texte. Il est conçu pour aider les utilisateurs à effectuer des résumés, des recherches, des rédactions collaboratives, du codage et bien plus encore. Selon Anthropic, l'un des principaux points de différenciation de Claude est qu'il est conçu pour produire des résultats moins nocifs que la plupart des autres chatbots d'IA qui l'ont précédé. Claude est décrit comme un "système d'IA utile, honnête et inoffensif". Anthropic ajoute qu'il est facile à utiliser et à manipuler, de sorte que vous obtenez les résultats souhaités avec moins d'efforts.

Anthropic admet que Claude a ses limites, dont plusieurs sont apparues au cours de la version bêta fermée. Par exemple, Claude serait moins bon en maths et moins bon programmeur que ChatGPT. Claude a des hallucinations, inventant par exemple un nom pour un produit chimique qui n'existe pas, et fournissant des instructions douteuses pour produire de l'uranium de qualité militaire. Il est également possible de contourner les filtres de sécurité de Claude par le biais d'invites astucieuses, comme c'est le cas avec ChatGPT. Un utilisateur de la version bêta a réussi à obliger Claude à décrire comment fabriquer de la méthamphétamine à la maison.

Anthropic estime que le problème des hallucinations est un sujet délicat pour les entreprises d'IA. « Le défi consiste à créer des modèles qui n'ont jamais d'hallucinations tout en restant utiles. On peut se retrouver dans une situation difficile où le modèle pense qu'un bon moyen de ne jamais mentir est de ne jamais rien dire du tout, il y a donc un compromis sur lequel nous travaillons. Nous avons progressé dans la réduction des hallucinations, mais il reste encore beaucoup à faire », a déclaré le porte-parole d'Anthropic. La société envisage en outre de permettre aux développeurs d'adapter les principes constitutionnels de Claude à leurs propres besoins.

L'acquisition de clients est un autre objectif pour la startup. Anthropic voit ses utilisateurs principaux comme des "startups faisant des paris technologiques audacieux" en plus des "entreprises plus grandes et mieux établies". Elle fait face à une certaine pression de la part des investisseurs pour récupérer les centaines de millions de dollars investis dans sa technologie d'IA. En plus de Google, elle bénéficie d'un important soutien de la part d'investisseurs tels que Sam Bankman-Fried, fondateur et ancien PDG de FTX, Caroline Ellison, ancien PDG d'Alameda Research, Jim McClave, Nishad Singh, Jaan Tallinn et le Centre de recherche sur les risques émergents.

.@AnthropicAI's "Claude" is susceptible to the same base64 jailbreak as chatGPT. I'm very unclear why this works at all

(originally reported here: https://t.co/j2cKAlEBQ0) pic.twitter.com/RwLuKniwiW

— Dan Elton (@moreisdifferent) January 8, 2023

Les liens entre Anthropic et les protagonistes de la saga FTX, Caroline Ellison et Sam Bankman-Fried en l'occurrence, font l'objet de critiques. Anthropic aurait reçu une importante somme d'argent de 580 millions de dollars de la part des dirigeants de FTX qui sont aujourd'hui accusés, entre autres, d'escroquerie et de fraude en valeurs mobilières. La question s'est posée de savoir si cet argent pouvait être récupéré par un tribunal. En outre, Anthropic et FTX seraient liés au mouvement de l'altruisme efficace, que l'ancienne chercheuse de Google Timnit Gebru qualifie de "marque dangereuse de la sécurité de l'IA".

L'entreprise a annoncé que Claude et Claude Instant seront vendus selon deux grilles tarifaires différentes. Claude est un modèle très performant, tandis que Claude Instant est plus léger, moins cher et beaucoup plus rapide. Elle facture l'utilisation par million de caractères entrés et sortis. Alors que GPT-3.5-turbo d'OpenAI est facturé 0,002 $ pour 1 000 tokens (fragments d'un mot), Claude Instant est disponible pour 0,42 $ par million de caractères en entrée et 1,45 $ par million de caractères en sortie. Claude-v1, le plus grand modèle, est proposé à 2,90 dollars par million de caractères en entrée et à 8,60 dollars par million de caractères en sortie.

Bien qu'il n'existe pas de conversion standard entre les jetons et les caractères, des analystes estiment que l'API ChatGPT d'OpenAI coûte entre 0,40 et 0,50 dollar par million de caractères, ce qui signifie que Claude est plus cher en général. Toutefois, Anthropic estime que Claude a déjà été intégré dans plusieurs produits disponibles par l'intermédiaire de partenaires, notamment les résumés instantanés DuckAssist de DuckDuckGo, une partie de Notion AI, et une application de chat appelée Poe qui a été créée par Quora. D'autres partenaires de lancement - dont Robin AI et AssemblyAI - auraient également intégré Claude dans leurs produits.

« Nous utilisons Claude pour évaluer des parties particulières d'un contrat et pour suggérer un nouveau langage alternatif plus convivial pour nos clients. Nous avons constaté que Claude est très doué pour comprendre le langage, y compris dans des domaines techniques comme le langage juridique. Il est également très sûr de lui pour rédiger, résumer, traduire et expliquer des concepts complexes en termes simples », a déclaré Richard Robinson, PDG de Robin AI.

Anthropic a annoncé qu'elle prévoit d'introduire encore plus de mises à jour dans les semaines à venir pour rendre Claude plus utile, plus honnête et plus inoffensif. Selon certains analystes, compte tenu des projets annoncés par Google pour Bard et l'API PaLM, il semble peu probable que Google s'appuie sur Anthropic pour les solutions d'IA dans ses produits, mais le financement d'un rival d'OpenAI pourrait être dans l'intérêt stratégique de Google à l'avenir.

Source : Anthropic

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la méthode utilisée par Anthropic pour créer Claude ?
Que pensez-vous des limites de Claude par rapport à ChatGPT ?
Pensez-vous que Claude puisse faire de l'ombre à ChatGPT ?
Selon vous, les chatbots d'IA peuvent-ils vaincre le problème d'injection d'invite ?

Voir aussi

Google investit 300 M$ dans la start-up d'IA Anthropic, fondée par d'anciens chercheurs d'OpenAI, la société a construit son propre chatbot généraliste, un rival de ChatGPT nommé Claude

Anthropic, une startup fondée par d'anciens employés d'OpenAI, dévoile un chatbot d'IA appelé Claude pour concurrencer ChatGPT, mil serait bon pour faire des blagues, mais mauvais en programmation

OpenAI lance GPT-4, une IA multimodale que l'entreprise affirme être à la pointe de la technologie, il serait 82 % moins susceptible d'être trompé par une injection d'invite que GPT-3.5

Les résumés d'articles générés par ChatGPT parviennent à duper des scientifiques, ils ne peuvent pas toujours faire la différence entre les résumés générés par l'IA et les résumés originaux

[epsilon68]

Madame Claude ? sérieux ?

[Jade Emy]

Anthropic announce Claude 2.1, alimentant l'expérience de chat claude.ai et offrant des avancées dans les capacités clés pour les entreprises, y compris un contexte de jetons de 200K.

Anthropic annonce son dernier modèle, Claude 2.1, disponible via API Console et alimente l'expérience de chat claude.ai. Claude 2.1 offre des avancées dans les capacités clés pour les entreprises, y compris une fenêtre contextuelle de 200K jetons, des réductions significatives des taux d'hallucination du modèle, des invites du système et de la nouvelle fonctionnalité bêta : l'utilisation d'outils. Anthropic met également à jour sa tarification afin d'améliorer la rentabilité pour les clients, quel que soit le modèle.

Fenêtre contextuelle de 200K

Depuis son lancement en début d'année, Claude a été utilisé par des millions de personnes pour un large éventail d'applications, allant de la traduction d'articles universitaires à la rédaction de plans d'affaires, en passant par l'analyse de contrats complexes. Les utilisateurs ont demandé des fenêtres contextuelles plus grandes et des résultats plus précis lorsqu'ils travaillent avec de longs documents.

En réponse, la quantité d'informations pouvant être transmis à Claude double avec une limite de 200 000 jetons, ce qui correspond à environ 150 000 mots, soit plus de 500 pages de documents. Les utilisateurs peuvent désormais télécharger de la documentation technique comme des bases de code entières, des états financiers comme des S-1, ou même de longues œuvres littéraires comme l'Iliade ou l'Odyssée. En étant capable d'accéder à de grandes quantités de contenu ou de données, Claude peut résumer, effectuer des questions-réponses, prévoir des tendances, comparer et opposer plusieurs documents, et bien plus encore.

Le traitement d'un message de 200 000 caractères est un exploit complexe et une première dans l'industrie. Bien qu'Anthropic soit enthousiaste à l'idée de mettre cette nouvelle capacité puissante entre les mains des utilisateurs, des tâches qui nécessiteraient normalement des heures d'effort humain pour être accomplies peuvent prendre quelques minutes à Claude. Anthropic s'attend à ce que le temps de latence diminue considérablement au fur et à mesure que la technologie progresse.

Diminution de 2x des taux d'hallucinations

Claude 2.1 a également réalisé des progrès significatifs en matière d'honnêteté, avec une diminution de 2 fois des fausses déclarations par rapport au précédent modèle Claude 2.0. Cela permet aux entreprises de créer des applications d'IA très performantes qui résolvent des problèmes commerciaux concrets et de déployer l'IA dans leurs opérations avec plus de confiance et de fiabilité.

Anthropic a testé l'honnêteté de Claude 2.1 en rassemblant un grand nombre de questions factuelles complexes qui sondent les faiblesses connues des modèles actuels. En utilisant une rubrique qui distingue les affirmations incorrectes ("La cinquième ville la plus peuplée de Bolivie est Montero") des aveux d'incertitude ("Je ne suis pas sûr de ce qu'est la cinquième ville la plus peuplée de Bolivie"), Claude 2.1 a été beaucoup plus enclin à démentir plutôt qu'à fournir des informations incorrectes.

Claude 2.1 a également apporté des améliorations significatives en matière de compréhension et de résumé, en particulier pour les documents longs et complexes qui exigent un haut degré de précision, tels que les documents juridiques, les rapports financiers et les spécifications techniques. Dans les évaluations d'Anthropic, Claude 2.1 a démontré une réduction de 30 % des réponses incorrectes et de 3 à 4 fois plus bas de conclusion erronée qu'un document soutient une revendication particulière.

Anthropic:
Bien que nous soyons encouragés par ces améliorations de la précision, l'amélioration de la précision et de la fiabilité des résultats pour nos utilisateurs reste une priorité absolue pour nos équipes de produits et de recherche.

Utilisation de l'outil API

À la demande générale, Anthropic a également ajouté l'utilisation d'outils, une nouvelle fonctionnalité bêta qui permet à Claude de s'intégrer aux processus, produits et API existants des utilisateurs. Cette interopérabilité élargie vise à rendre Claude plus utile dans les opérations quotidiennes des utilisateurs.

Claude peut désormais orchestrer des fonctions ou des API définies par les développeurs, effectuer des recherches dans des sources Web et récupérer des informations dans des bases de connaissances privées. Les utilisateurs peuvent définir un ensemble d'outils à utiliser par Claude et spécifier une requête. Le modèle décidera alors quel outil est nécessaire pour accomplir la tâche et exécutera une action en leur nom, comme par exemple :

• l'utilisation d'une calculatrice pour un raisonnement numérique complexe
• traduire des demandes en langage naturel en appels API structurés
• répondre à des questions en interrogeant des bases de données ou en utilisant une API de recherche sur le web
• exécuter des actions simples dans un logiciel via des API privées
• se connecter à des ensembles de données sur les produits pour faire des recommandations et aider les utilisateurs à effectuer des achats.

Anthropic:
L'utilisation des outils en est actuellement à ses débuts. Nous développons des fonctionnalités pour les développeurs et des lignes directrices pour faciliter l'intégration dans vos applications. Nous encourageons les utilisateurs à nous faire part de leurs commentaires sur l'utilisation des outils afin de contribuer à l'élaboration et à l'amélioration du produit.

Expérience des développeurs

Anthropic s'efforce de simplifier l'expérience de sa console de développement pour les utilisateurs de l'API Claude, tout en facilitant le test de nouvelles invites pour un apprentissage plus rapide. Le nouveau produit Workbench permet aux développeurs d'itérer sur les invites dans une expérience de type terrain de jeu et d'accéder à de nouveaux paramètres de modèle pour optimiser le comportement de Claude. Ils peuvent créer plusieurs invites et naviguer entre elles pour différents projets, et les révisions sont enregistrées au fur et à mesure pour conserver le contexte historique. Les développeurs peuvent également générer des extraits de code pour utiliser leurs invites directement dans l'un de nos SDK.

Anthropic introduit également des messages-guides, qui permettent aux utilisateurs de fournir des instructions personnalisées à Claude afin d'améliorer ses performances. Les invites du système établissent un contexte utile qui améliore la capacité de Claude à prendre des personnalités et des rôles spécifiques ou à structurer des réponses d'une manière plus personnalisable, cohérente et alignée sur les besoins des utilisateurs.

Claude 2.1 est disponible dès maintenant dans l'API, et alimente également l'interface de chat sur claude.ai pour les versions gratuite et Pro. L'utilisation de la fenêtre contextuelle du jeton de 200K est réservée aux utilisateurs de Claude Pro, qui peuvent désormais télécharger des fichiers plus volumineux que jamais.

Anthropic :
Nous sommes impatients de voir les cas d'utilisation que ces nouvelles fonctionnalités inspirent, alors que nous travaillons à construire les systèmes d'IA les plus sûrs et les plus techniquement sophistiqués de l'industrie.

Source : Anthropic

Et vous ?

Quel est votre avis sur cette nouvelle version, Claude 2.1 ?

Voir aussi :

Anthropic, une startup fondée par d'anciens employés d'OpenAI, dévoile un chatbot d'IA appelé Claude pour concurrencer ChatGPT, il serait bon pour faire des blagues, mais mauvais en programmation

Anthropic lance Claude Pro, une version payante de son concurrent ChatGPT, au même prix que ChatGPT Plus, disponible qu'aux États-Unis et au Royaume-Uni pour l'instant

Anthropic lance Claude, un modèle d'IA décrit comme plus "maniable" et "moins nocif" que ChatGPT d'OpenAI, mais moins performant que ChatGPT dans l'écriture de code informatique