Discussion :

[Anthony]

La plateforme X d'Elon Musk a accepté pour l'instant de ne pas former son IA Grok avec les données personnelles collectées illégalement auprès d'utilisateurs de l'UE, suite à une plainte d'un tribunal irlandais

La plateforme de médias sociaux X a accepté ce jeudi 8 août de ne pas entraîner ses systèmes d'intelligence artificielle (IA) à utiliser les données personnelles collectées auprès des utilisateurs de l'Union européenne avant qu'ils n'aient eu la possibilité de retirer leur consentement, a appris un tribunal irlandais.

La Commission de protection des données (DPC) a engagé une procédure devant la Haute Cour en Irlande à l'encontre de la plateforme X. La DPC s'est déclarée préoccupée par l'utilisation sans consentement des données personnelles de la plateforme pour la formation de l'IA Grok d'Elon Musk. La DPC demande des ordonnances interdisant la plateforme X de traiter les données à caractère personnel des utilisateurs à des fins de développement, d'entraînement ou de perfectionnement de son IA.

La Commission irlandaise de protection des données, principal régulateur européen pour la plupart des grandes entreprises américaines de l'internet en raison de l'implantation dans le pays de leurs activités dans l'UE, a demandé cette semaine une ordonnance pour suspendre ou restreindre le traitement par X des données des utilisateurs à des fins de développement, d'entraînement ou d'amélioration de ses systèmes d'intelligence artificielle.

X, propriété d'Elon Musk, a déclaré qu'elle permettait à tous les utilisateurs de décider si leurs messages publics pouvaient être utilisés par Grok, le chatbot d'intelligence artificielle de la plateforme. Pour ce faire, les utilisateurs doivent décocher une case dans leurs paramètres de confidentialité.

Cependant, la juge Leonie Reynolds a déclaré qu'il était clair que X avait commencé à traiter les données des utilisateurs de l'UE pour entraîner ses systèmes d'intelligence artificielle le 7 mai et qu'elle n'avait offert l'option de refus qu'à partir du 16 juillet. De plus, la fonction n'a pas été étendue à tous les utilisateurs dans un premier temps.

Un avocat de la plateforme, anciennement connue sous le nom de Twitter, a déclaré que les données collectées auprès des utilisateurs de l'UE entre le 7 mai et le 1er août ne seraient pas utilisées tant que le tribunal n'aurait pas statué sur l'ordonnance de la Commission irlandaise de protection des données (DPC).

Les avocats de X doivent déposer des documents d'opposition à l'ordonnance de suspension d'ici le 4 septembre, a-t-on appris auprès du tribunal.

Dans un message publié le mercredi 7 août sur la plateforme de médias sociaux, le compte X de Global Government Affairs a déclaré que l'ordonnance demandée par l'autorité de régulation était « injustifiée, exagérée et qu'elle isolait X sans aucune justification ».

Les préoccupations du régulateur sur la façon dont X utilise les données font suite à la décision de Meta Platforms en juin de ne pas lancer ses modèles Meta AI en Europe pour le moment après que le DPC irlandais lui ait demandé de retarder son projet.

Google, la société d'Alphabet, a également accepté de retarder et de modifier son chatbot d'IA Gemini au début de l'année, après avoir consulté l'autorité de régulation irlandaise.

Sources : La juge Leonie Reynolds, Commission irlandaise de protection des données

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous cette décision de la plateforme X d'Elon Musk crédible ou pertinente ?

Voir aussi :

La plateforme X d'Elon Musk est poursuivie en justice en Irlande pour s'être emparée de données d'utilisateurs de l'UE afin d'entraîner l'IA Grok sans leur consentement

Grok, le chatbot IA développé par xAI d'Elon Musk, s'entraîne en analysant les données des utilisateurs de X sans consentement. Le processus, configuré par défaut en mode « opt-out », suscite la controverse

[Jade Emy]

La plateforme X d'Elon Musk visée par neuf plaintes de NOYB relatives à la protection de la vie privée, après s'être emparée des données d'utilisateurs de l'UE pour former son IA Grok.

Après l'action en justice en Irlande, la plateforme X d'Elon Musk fait maintenant face aux plaintes de Noyb dans 9 pays de l'Union européenne. Il est reproché à la plateforme de médias sociaux de s'être emparée de données d'utilisateurs de l'UE afin d'entraîner l'IA Grok sans leur consentement. Noyb a demandé une "procédure d'urgence", car ce que la plateforme fait est une violation du RGPD à grande échelle.

Récemment, la Commission de protection des données en Irlande (DPC) a engagé une procédure judiciaire à l'encontre de la plateforme X. La DPC indique que ses préoccupations portent sur l'utilisation des données d'utilisateurs dans l'Union européenne/l'Espace économique européen, pour former les systèmes d'intelligence artificielle utilisés par X, y compris son outil de recherche amélioré connu sous le nom de Grok.

La DPC est également préoccupé par l'intention de la plateforme X de lancer la prochaine version de Grok, qui aurait été formée en utilisant les données personnelles des utilisateurs de l'UE/EEE. Selon la DPC, cela aggraverait les difficultés liées au traitement des données en question. Il est également affirmé que la plateforme X a refusé les demandes de la DPC de cesser le traitement des données personnelles en question ou de reporter le lancement de la prochaine édition de "Grok". Afin de clarifier la légalité du traitement des données des utilisateurs par Twitter International, la DPC a également l'intention de saisir le Conseil européen de la protection des données pour examen.

Suite à cela, le groupe de défense autrichien NOYB a déposé une plainte contre la plateforme de médias sociaux X, accusant la société détenue par Elon Musk d'entraîner son intelligence artificielle (IA) avec les données personnelles des utilisateurs sans leur consentement, en violation de la législation européenne sur la protection de la vie privée. Le groupe dirigé par le militant de la vie privée Max Schrems a annoncé qu'il avait déposé des plaintes au titre du règlement général sur la protection des données (RGPD) auprès des autorités de neuf pays de l'Union européenne afin d'accentuer la pression sur l'autorité irlandaise chargée de la protection des données, la DPC.

La Commission irlandaise de protection des données, principal régulateur de l'UE pour la plupart des grandes entreprises américaines de l'internet en raison de l'emplacement de leurs opérations européennes dans le pays, a demandé une ordonnance pour suspendre ou restreindre le traitement par X des données des utilisateurs à des fins de développement, d'entraînement ou d'affinement de ses systèmes d'IA. X a accepté de ne pas former ses systèmes d'intelligence artificielle en utilisant des données personnelles collectées auprès d'utilisateurs de l'UE avant qu'ils n'aient eu la possibilité de retirer leur consentement.

Cependant, NOYB a déclaré que la plainte de la DPC concernait principalement les mesures d'atténuation et le manque de coopération de la part de X, et ne remettait pas en question la légalité du traitement des données lui-même. "Nous voulons nous assurer que Twitter respecte pleinement la législation de l'UE, qui exige - au minimum - de demander le consentement des utilisateurs dans ce cas", a déclaré M. Schrems dans un communiqué, en faisant référence à X sous son ancien nom.

Lors de l'audience face à la DPC, un tribunal irlandais a estimé que X n'avait donné à ses utilisateurs la possibilité de s'opposer que plusieurs semaines après le début de la collecte des données. Le compte X Global Government Affairs a déclaré que l'entreprise continuerait à travailler avec la DPC sur les questions liées à l'IA.

Pour rappel, en juin, Meta, la société mère de Facebook, a annoncé qu'elle ne lancerait pas son assistant d'intelligence artificielle en Europe pour le moment, après que la DPC irlandaise lui a demandé de retarder son projet. NOYB avait déposé des plaintes dans plusieurs pays contre l'utilisation de données personnelles pour former le logiciel dans ce cas également.


La plateforme de médias sociaux X fait l'objet de 9 nouvelles plaintes par Noyb au titre du RGPD

Pour Noyb, Twitter International (aujourd'hui rebaptisé "X") a commencé à utiliser illégalement les données personnelles de plus de 60 millions d'utilisateurs dans l'UE/EEE pour former ses technologies d'IA (comme "Grok") sans leur consentement. Contrairement à Meta (qui a récemment dû mettre fin à l'entraînement à l'IA dans l'UE), Twitter n'a même pas informé ses utilisateurs à l'avance.

Si la Commission irlandaise de protection des données (DPC) a lancé une procédure judiciaire contre Twitter pour mettre fin au traitement illégal, Noyb estime que la DPC s'est arrêtée avant d'appliquer pleinement le RGPD. Pour faire suite à cette initiative, Noyb a déposé neuf plaintes et a partagé les raisons qui ont poussé le groupe de défense à déposer les plaintes contre la plateforme X.

Les données personnelles de 60 millions de personnes pour entraîner l'IA ? Comme si la tentative ratée de Meta d'utiliser illégalement les données personnelles des gens pour des projets d'IA n'avait pas envoyé un message suffisamment clair, X est la prochaine entreprise américaine à aspirer les données des utilisateurs de l'UE pour entraîner l'IA. En mai 2024, X a commencé à intégrer de manière irréversible les données des utilisateurs européens dans sa technologie d'IA "Grok", sans jamais les en informer ni leur demander leur consentement.

La DPC irlandaise prend des mesures timides. L'ignorance flagrante de la loi par X a suscité une réponse surprenante de la part de la DPC irlandaise (notoirement pro-entreprises) : l'autorité a engagé une action en justice contre Twitter pour mettre fin au traitement illégal et faire appliquer une ordonnance de mise en conformité de ses systèmes avec le RGPD.

Cependant, une audience du tribunal a révélé que la DPC semble avoir été principalement préoccupé par les mesures dites "d'atténuation" et par le fait que X a commencé le traitement tout en étant encore dans un processus de consultation obligatoire avec la DPC en vertu de l'article 36 du RGPD. Noyb en conclue que la DPC ne semble pas s'intéresser aux violations fondamentales.

"Les documents du tribunal ne sont pas publics, mais d'après l'audience, nous comprenons que la DPC ne remettait pas en question la légalité de ce traitement lui-même. Il semble que lA DPC se préoccupe des "mesures d'atténuation" et du manque de coopération de Twitter. La DPC semble prendre des mesures à la marge, mais s'éloigne du cœur du problème".

Noyb demande une enquête approfondie. Dès la première audience, la DPC irlandaise s'est entendu avec X (par le biais d'un "engagement") pour suspendre jusqu'en septembre l'entraînement de l'algorithme avec les données de l'UE. Pour Noyb, aucune décision sur la légalité n'a été prise et de nombreuses questions restent sans réponse. Par exemple : Qu'est-il advenu des données européennes déjà intégrées dans les systèmes et comment X peut-il (correctement) séparer les données européennes des données non européennes ?

Pour cette raison, Noyb a déposé des plaintes RGPD auprès des autorités de protection des données de neuf pays, afin de s'assurer que les problèmes juridiques fondamentaux autour de l'entraînement à l'IA de Twitter soient entièrement résolus. Plus les autres autorités de protection des données de l'UE s'impliqueront dans la procédure, plus la pression exercée sur l'autorité irlandaise de protection des données sera forte et plus X devra se conformer à la législation de l'UE.

"Nous avons vu d'innombrables exemples d'application inefficace et partielle de la loi par la DPC au cours des dernières années. Nous voulons nous assurer que Twitter se conforme pleinement à la législation européenne, qui exige - au minimum - de demander le consentement des utilisateurs dans ce cas.

Pour Noyb, il suffit de demander aux utilisateurs ! Le RGPD de l'UE offre une solution simple pour que les utilisateurs puissent "faire don" de leurs données personnelles pour le développement de l'IA : il suffit de demander aux utilisateurs leur consentement clair à un tel traitement. Si un petit nombre des 60 millions d'utilisateurs de X consentait à l'entraînement de ses systèmes d'IA, X disposerait de suffisamment de données d'entraînement pour n'importe quel nouveau modèle d'IA.

Mais selon Noyb, X n'a pas l'intention de demander l'autorisation des utilisateurs. Au lieu de cela, il se contente de prendre les données des utilisateurs sans les informer et sans leur demander l'autorisation.

"Les entreprises qui interagissent directement avec les utilisateurs ont simplement besoin de leur montrer un message oui/non avant d'utiliser leurs données. Elles le font régulièrement pour beaucoup d'autres choses, et cela serait donc tout à fait possible pour l'apprentissage de l'IA."

Les intérêts commerciaux l'emportent-ils sur les droits fondamentaux des utilisateurs ? Avec tout cela, Noyb se pose la question. Normalement, le traitement des données à caractère personnel est illégal par défaut dans l'Union européenne. Par conséquent, pour traiter des données personnelles, X doit s'appuyer sur l'une des six bases juridiques prévues à l'article 6, paragraphe 1, du RGPD.

Bien que le choix logique soit le consentement explicite, X - tout comme Meta - affirme qu'il a un "intérêt légitime" qui l'emporte sur les droits fondamentaux des utilisateurs. Noyob rappelle que cette approche a déjà été rejetée par la Cour de justice dans une affaire concernant l'utilisation par Meta de données personnelles à des fins de publicité ciblée. Cependant, il semble que la DPC irlandaise ait, au cours des derniers mois, "négocié" sur l'approche de l'"intérêt légitime" dans le cadre d'une procédure de "consultation" au titre de l'article 36 du RGPD.

"Les faits que nous connaissons maintenant grâce à la procédure judiciaire irlandaise indiquent que la DPC n'a pas vraiment remis en question la question centrale, qui est de prendre toutes ces données personnelles sans le consentement de l'utilisateur".

Informations fournies par le biais d'un message X "viral". Selon Noyb, X n'a jamais informé ses utilisateurs de manière proactive que leurs données personnelles étaient utilisées pour entraîner l'IA - même s'il leur envoie des notifications chaque fois que quelqu'un aime ou retweete leurs messages. Au contraire, il semble que la plupart des gens aient découvert le nouveau paramètre par défaut grâce à un message viral d'un utilisateur nommé "@EasyBakedOven" le 26 juillet 2024, soit plus de deux mois après le début de l'entraînement de l'IA.

Voici quelques points juridiques soulignés par Noyb concernant ses plaintes :

Qu'en est-il des autres droits conférés par le RGPD ? À l'heure actuelle, les fournisseurs de systèmes d'IA affirment en grande partie qu'ils ne sont pas en mesure de se conformer à d'autres exigences du RGPD, telles que le droit à l'oubli (article 17 du RGPD), une fois que les données ont été ingérées dans leurs systèmes d'IA. De même, les entreprises ont tendance à affirmer qu'elles ne peuvent pas répondre aux demandes visant à obtenir une copie des données à caractère personnel contenues dans les données de formation ou les sources de ces données (comme l'exige l'article 15 du RGPD), et qu'elles ne peuvent pas non plus corriger les données à caractère personnel inexactes (comme l'exige l'article 16 du RGPD). Cela soulève des questions supplémentaires lorsqu'il s'agit de l'ingestion illimitée de données à caractère personnel dans les systèmes d'IA.

Les violations du RGPD à grande échelle justifient une procédure d'urgence. Étant donné que Twitter a déjà commencé à traiter les données des personnes pour sa technologie d'IA, et qu'il n'y a essentiellement aucune option pour supprimer les données ingérées, noyb a demandé une "procédure d'urgence" en vertu de l'article 66 du RGPD. Les autorités de protection des données (APD) de neuf pays européens (Autriche, Belgique, France, Grèce, Irlande, Italie, Pays-Bas, Pologne et Espagne) ont reçu une telle demande au nom des personnes concernées. L'article 66 autorise les autorités chargées de la protection des données à émettre des arrêts préliminaires dans des situations telles que celle décrite ci-dessus et permet une décision à l'échelle de l'UE par l'intermédiaire de l'EDPB. La DPC irlandaise et Meta Ireland ont déjà fait l'objet de deux "décisions contraignantes urgentes" de l'EDPB dans des situations similaires (voir la décision contraignante urgente 01/2023 et la décision contraignante urgente 01/2021).

Plusieurs dispositions du RGPD violées. Outre l'absence de base juridique valable, il est très peu probable que Twitter fasse correctement la distinction entre les données des utilisateurs de l'UE/EEE et celles d'autres pays où les personnes ne bénéficient pas de la protection du RGPD. Il en va de même pour les données sensibles au titre de l'article 9 du RGPD (pour lesquelles l'argument de l'"intérêt légitime" n'est pas disponible en vertu de la loi), telles que les données révélant l'appartenance ethnique, les opinions politiques et les croyances religieuses, ainsi que d'autres données pour lesquelles un "intérêt légitime" pourrait théoriquement être revendiqué. Avec l'introduction de sa technologie d'IA, Twitter semble avoir enfreint un certain nombre d'autres dispositions du RGPD, notamment les principes du RGPD, les règles de transparence et les règles opérationnelles. Dans l'ensemble, les plaintes de noyb énumèrent des violations d'au moins les articles 5, paragraphes 1 et 2, 6, paragraphe 1, 9, paragraphe 1, 12, paragraphes 1 et 2, 13, paragraphes 1 et 2, 17, paragraphe 1, point c), 18, paragraphe 1, point d), 19, 21, paragraphe 1, et 25 du RGPD.

Source : Noyb

Et vous ?

Pensez-vous que ces plaintes sont crédibles ou pertinentes ?
Quel est votre avis sur le sujet ?

Voir aussi :

La plateforme X d'Elon Musk est poursuivie en justice en Irlande pour s'être emparée de données d'utilisateurs de l'UE afin d'entraîner l'IA Grok sans leur consentement

Meta prévoit d'utiliser vos données personnelles pour entraîner ses modèles d'IA sans demander de consentement, mais le groupe de défense NOYB demande aux autorités de l'Europe d'y mettre un terme

Une plainte RGPD a été déposée par NOYB contre X (Twitter) pour avoir illégalement utilisé les opinions politiques et les croyances religieuses de ses utilisateurs à des fins de publicité ciblée

[Jade Emy]

xAI d'Elon Musk lance Grok-2 en beta avec l'ajout de génération d'images sur X, Grok-2 accepte de faire des illustrations politiques et de vraies personnes, alors que ChatGPT refuse.

xAI vient de lancer Grok-2 et Grok-2 mini en version bêta avec un raisonnement amélioré. Le nouveau modèle d'IA Grok peut désormais générer des images sur le réseau social X, bien que l'accès à Grok soit actuellement limité aux utilisateurs Premium et Premium+ sur X. La société d'IA de Musk prévoit également de mettre les deux modèles à la disposition des développeurs via son API d'entreprise dans le courant du mois.

Fondée par Elon Musk en mars 2023, xAI est une startup américaine travaillant dans le domaine de l'intelligence artificielle (IA). xAI a présenté une première version de Grok-2, qu'elle qualifie d'avancée significative par rapport à son modèle précédent Grok-1.5. Ainsi, Grok-2 offre des fonctionnalités inédites en matière de chat, de codage et de raisonnement. xAI a également annoncé Grok-2 mini. D'après xAI, Grok-2 et Grok-2 mini sont disponibles en version bêta pour les utilisateurs de X.

xAI a déclaré lors de l'annonce :

Nous sommes ravis de présenter une première version de Grok-2, qui représente une avancée significative par rapport à notre modèle précédent, Grok-1.5, et qui offre des fonctionnalités inédites en matière de chat, de codage et de raisonnement. Parallèlement, nous présentons Grok-2 mini, un petit frère compétent de Grok-2. Une première version de Grok-2 a été testée sur le leaderboard de LMSYS sous le nom de « sus-column-r ». Au moment de la rédaction de ce billet, elle surpasse à la fois Claude 3.5 Sonnet et GPT-4-Turbo. Grok-2 et Grok-2 mini sont actuellement en version bêta sur 𝕏, et nous rendrons également ces deux modèles disponibles via notre API d'entreprise dans le courant du mois.

Les premières images générées par les utilisateurs suggèrent que la fonction de génération d'images de Grok ne comporte aucun garde-fou concernant la création d'images de personnalités politiques - et de nombreux utilisateurs profitent actuellement de ce fait. Toutefois, à l'approche de l'élection présidentielle américaine, l'entreprise sera probablement contrainte d'ajouter des limites à ces fonctions.

Grok 2.0 will do political illustrations and real people, while ChatGPT refuses.

This instantly makes Grok 10x more fun...... pic.twitter.com/yDBJO0jWba

— Benjamin De Kraker 🏴*☠️ (@BenjaminDEKR) August 14, 2024

Évaluation des modèles Grok-2 et Grok-2 mini

xAI a introduit une première version de Grok-2 sous le nom de "sus-column-r" dans l'arène des chatbots LMSYS, un benchmark concurrentiel populaire de modèles de langage. Les résultats montrent qu'elle surpasse Claude et GPT-4 dans le classement LMSYS en termes de score Elo global.

En interne, ils ont également utilisé un processus comparable pour évaluer les modèles. Selon xAI, les tuteurs IA s'engagent avec les modèles dans une variété de tâches qui reflètent les interactions réelles avec Grok. Au cours de chaque interaction, les tuteurs IA se voient présenter deux réponses générées par Grok. Ils sélectionnent la meilleure réponse sur la base de critères spécifiques propre à l'entreprise.

xAI annonce s'être concentré sur l'évaluation des capacités du modèle dans deux domaines clés : suivre des instructions et fournir des informations précises et factuelles. Grok-2 a montré des améliorations significatives dans le raisonnement avec le contenu récupéré et dans ses capacités d'utilisation des outils, telles que l'identification correcte des informations manquantes, le raisonnement à travers les séquences d'événements, et l'élimination des messages non pertinents.

Puis, les modèles Grok-2 ont été évalués sur la base d'une série de critères académiques comprenant le raisonnement, la compréhension de la lecture, les mathématiques, les sciences et le codage. Les résultats montrent également que Grok-2 et Grok-2 mini présentent tous deux des améliorations significatives par rapport au précédent modèle Grok-1.5.

Ils atteignent des niveaux de performance compétitifs par rapport à d'autres modèles frontières dans des domaines tels que les connaissances scientifiques de niveau supérieur (GPQA), les connaissances générales (MMLU, MMLU-Pro) et les problèmes de compétition en mathématiques (MATH). En outre, Grok-2 excelle dans les tâches basées sur la vision, offrant des performances de pointe dans le raisonnement mathématique visuel (MathVista) et dans la réponse à des questions basées sur des documents (DocVQA).

Voici la présentation des modèles Grok-2 et Grok-2 mini par xAI :

Découvrez Grok avec des informations en temps réel sur 𝕏

Au cours des derniers mois, nous avons continuellement amélioré Grok sur la plateforme 𝕏 avec une interface redessinée et de nouvelles fonctionnalités. Les utilisateurs de 𝕏 Premium et Premium+ auront accès à deux nouveaux modèles : Grok-2 et Grok-2 mini. Grok-2 est notre assistant IA de pointe, doté de capacités avancées en matière de compréhension du texte et de la vision, intégrant les informations en temps réel de la plateforme 𝕏, accessible via l'onglet Grok dans l'app 𝕏. Grok-2 mini est notre modèle petit mais capable qui offre un équilibre entre la vitesse et la qualité des réponses.

Par rapport à son prédécesseur, Grok-2 est plus intuitif, plus orientable et plus polyvalent dans un large éventail de tâches, qu'il s'agisse de chercher des réponses, de collaborer à la rédaction ou de résoudre des tâches de codage. En collaboration avec Black Forest Labs, nous expérimentons leur modèle FLUX.1 pour étendre les capacités de Grok sur 𝕏. Si vous êtes un abonné Premium ou Premium+, assurez-vous de mettre à jour la dernière version de l'application 𝕏 afin de tester Grok-2.

Construire avec Grok en utilisant l'API d'entreprise

Dans le courant du mois, nous mettrons Grok-2 et Grok-2 mini à la disposition des développeurs par l'intermédiaire de notre nouvelle plateforme API d'entreprise. Notre prochaine API est construite sur une nouvelle pile technologique sur mesure qui permet des déploiements d'inférence multirégionaux pour un accès à faible latence dans le monde entier.

Nous offrons des fonctions de sécurité améliorées telles que l'authentification multi-facteurs obligatoire (par exemple en utilisant un Yubikey, Apple TouchID, ou TOTP), des statistiques de trafic riches, et des analyses de facturation avancées (y compris des exportations de données détaillées). Nous proposons également une API de gestion qui vous permet d'intégrer la gestion des équipes, des utilisateurs et de la facturation dans vos outils et services internes existants. Inscrivez-vous à notre lettre d'information pour être informé de notre lancement dans le courant du mois.

Quelles sont les prochaines étapes ?

Grok-2 et Grok-2 mini sont en cours de déploiement sur 𝕏. Nous sommes très enthousiastes quant à leurs applications à une série de fonctionnalités basées sur l'IA, telles que des capacités de recherche améliorées, l'obtention d'informations plus approfondies sur les messages de 𝕏, et des fonctions de réponse améliorées, toutes alimentées par Grok. Bientôt, nous publierons un aperçu de la compréhension multimodale en tant qu'élément central de l'expérience Grok sur 𝕏 et l'API.

Depuis l'annonce de Grok-1 en novembre 2023, xAI a progressé à un rythme extraordinaire, sous l'impulsion d'une petite équipe dotée de la plus grande densité de talents. Nous avons introduit Grok-2, ce qui nous positionne à l'avant-garde du développement de l'IA. Nous nous concentrons sur l'amélioration des capacités de raisonnement de base grâce à notre nouvelle grappe de calcul. Nous aurons de nombreux autres développements à partager dans les mois à venir.

Source : xAI

Et vous ?

Quel est votre avis sur cette annonce ?
Avez-vous déjà utilisé le modèle d'IA Grok, et si oui qu'en pensez-vous ?
Selon vous, le fait que Grok-2 ne comporte aucun garde-fou concernant la création d'images est plutôt amusant ou vraiment dangereux ?

Voir aussi :

Elon Musk déclare que Grok 2, le chatbot prétendument "anti-woke" qui s'est avéré surtout créer des infox et des vulgarités, sortira en Août, suivi de Grok 3 d'ici la fin de l'année

La plateforme X d'Elon Musk visée par neuf plaintes de NOYB relatives à la protection de la vie privée, après s'être emparée des données d'utilisateurs de l'UE pour former son IA Grok

GPT-4o arrive en tête du classement des modèles d'IA les plus performants de LMSYS Chatbot Arena avec un score Elo de 1 289, surpassant ainsi Gemini Pro 1.5 de Google et Claude 3 Opus d'Anthropic

[Ryu2000]

Selon vous, le fait que Grok-2 ne comporte aucun garde-fou concernant la création d'images est plutôt amusant ou vraiment dangereux ?

C'est cool, parce que le politiquement correct ce n'est pas marrant.

Ça ne va probablement pas durer longtemps, je vois bien une ligue de défense juive mettre la pression pour faire censurer certaines choses.
Israël ne doit pas être trop content de ce genre de chose :
https://x.com/CensoredMen/status/1823843057869164644

Il y aussi plein d'entreprises qui ne vont pas aimer qu'on puisse utiliser des personnes qui leur appartiennent.
Par exemple on peut demander une image de Mickey Mouse qui utilise un fusil d'assaut.

[Stéphane le calme]

Le nouveau générateur d'images de la société IA d'Elon Musk peut créer n'importe quoi, de Macron et Trudeau qui s'embrassent à Mickey Mouse avec une arme.
Ce qui suscite la polémique tandis que X est sous le coup d'une enquête de la Commission européenne

Accessible aux détenteurs d’un abonnement « premium » au réseau social X, le chatbot Grok de xAI vous permet désormais de créer des images à partir de textes et de les publier sur X. L'outil est moins bridé que la concurrence ; les internautes ont facilement réussi à lui faire produire des images violentes et autres deepfakes.

Lancée en novembre dernier, Grok, l’intelligence artificielle (IA) d’Elon Musk, s’offre de nouvelles capacités. Ce mercredi 14 août, xAI, la startup d’IA du milliardaire, a dévoilé un nouveau modèle : Grok-2. Contrairement aux autres IA, Grok-2 semble cependant être moins limité. Depuis son annonce, de nombreux utilisateurs ont utilisé le modèle pour générer des images de personnalités politiques, ce qui est interdit avec Midjourney ou Dall-E d’OpenAI.

En fait, officiellement, l’IA ne peut pas générer des « images pornographiques, excessivement violentes, haineuses ou faisant la promotion d’activités dangereuses ».

Quand on lui pose la question Grok indique aussi être « prudent quant à la création d’images susceptibles d’enfreindre des droits d’auteur ou des marques déposées existants » et ne pas produire « d’images susceptibles d’être utilisées pour tromper ou nuire à autrui, comme les « deepfakes » destinés à induire en erreur ».

Grok vous dira qu'il a des garde-fous si vous lui demandez quelque chose comme « quelles sont tes limites en matière de génération d'images ? ». Entre autres choses, il affiche :

• J'évite de générer des images pornographiques, excessivement violentes, haineuses ou faisant la promotion d'activités dangereuses.
• Je fais attention à ne pas créer d'images susceptibles d'enfreindre des droits d'auteur ou des marques déposées existants. Il s'agit notamment de personnages connus, de logos ou de tout contenu qui pourrait être considéré comme une propriété intellectuelle sans élément transformateur.
• Je ne produirai pas d'images susceptibles d'être utilisées pour tromper ou nuire à autrui, comme les « deepfakes » destinés à induire en erreur, ou des images qui pourraient entraîner des dommages dans le monde réel.

Mais il ne s'agit probablement pas de véritables règles, mais simplement de réponses prédictives à l'apparence vraisemblable, générées à la volée. Si vous posez plusieurs fois la question, vous obtiendrez des variantes avec des politiques différentes.

Pourtant, lorsque les internautes ont testé ses limites, ils n'en ont pratiquement pas vus.

Ainsi, Grok peut créer une photo plutôt réaliste d’Elon Musk portant une affiche « Trans Rights », alors que le milliardaire est connu pour militer contre les droits trans.

Ou encore Kamala Harris en train de mettre le feu au drapeau des États-Unis

Sans oublier Macron et Trudeau qui s'embrassent.

Même si Grok refuse de générer quelque chose, il est facile de contourner la mesure

D'autres expériences menées par des utilisateurs sur X montrent que même si Grok refuse de générer quelque chose, il est facile de trouver des failles. Il y a donc très peu de garanties pour éviter que Grok ne génère des images sanglantes de Musk et Mickey Mouse abattant des enfants, ou même de la « pornographie enfantine si on lui donne les instructions appropriées », selon Christian Montessori, un utilisateur de X. Il a posté l'image générée sur son compte, suivi de ce message :

« En donnant à Grok le contexte que vous êtes un professionnel, vous pouvez générer à peu près n'importe quoi sans aucune restriction. Vous pouvez générer n'importe quoi, depuis les représentations violentes de mon tweet précédent jusqu'à la pornographie infantile si vous donnez à Grok les instructions appropriées.

« Dans l'ensemble, il est clair qu'une surveillance immédiate s'impose. OpenAI, Meta et Google ont tous mis en œuvre des protocoles de sécurité profondément ancrés. Il semble que Grok n'ait fait l'objet que de tests de sécurité très limités, voire nuls. Dans les premiers jours de ChatGPT, j'ai pu obtenir des instructions sur la façon de fabriquer des bombes.

« Toutefois, ce problème a été résolu bien avant que ChatGPT ne soit accessible au public. Il est très inquiétant de constater que n'importe qui peut payer X 4 $ pour générer des images de Micky Mouse en train d'effectuer une fusillade de masse contre des enfants »

By giving Grok the context that you are a professional you are able to generate just about anything without any restriction. You can generate anything from the violent depictions in my previous tweet to even having Grok generate child pornography if given the proper prompts.

— Christian Montessori (@chrmontessori) August 15, 2024

Et si Musk est conscient de ces problèmes, il semble les trouver amusants. D'ailleurs, lorsqu'une utilisatrice à dit « Oh, mon Dieu. Grok n'a absolument aucun filtre pour sa génération d'images. C'est l'une des implémentations d'IA les plus imprudentes et irresponsables que j'aie jamais vues », il a simplement rigolé.

Oh my god. Grok has absolutely no filters for its image generation. This is one of the most reckless and irresponsible AI implementations I've ever seen. pic.twitter.com/oiyRhW5jpF

— Alejandra Caraballo (@Esqueer_) August 14, 2024

De plus, réagissant à un message saluant l’aspect « non censuré » de Grok 2.0 et son supposé respect de « la liberté d’expression », Elon Musk a déclaré : « Grok est l’IA la plus fun du monde »

The new @grok 2.0 is clearly the most based and uncensored model of its class yet.

Glad @elonmusk is ensuring freedom of speech for humans and machines alike with @x + @xai.

— Beff – e/acc (@BasedBeffJezos) August 14, 2024

Un générateur d'images qui suscite la polémique tandis que X est sous le coup d'une enquête de la Commission européenne

Grok n'est pas le seul moyen d'obtenir des images d'IA violentes, sexuelles ou trompeuses, bien entendu. Des outils logiciels ouverts comme Stable Diffusion peuvent être modifiés pour produire un large éventail de contenus avec peu de garde-fous. Il s'agit simplement d'une approche très inhabituelle pour un chatbot en ligne d'une grande entreprise technologique - Google a mis en pause les capacités de génération d'images de Gemini après une tentative embarrassante de surcorriger les stéréotypes liés à la race et au sexe.

Le cas de Grok est particulier : Elon Musk a toujours vilipendé les programmes d’intelligence artificielle générative de ses concurrents, soumis, selon lui, au politiquement correct et à l’agenda « woke ». Il avait férocement critiqué Google en février, quand son logiciel Gemini avait mis en scène des personnes noires pour incarner des soldats allemands de la seconde guerre mondiale ou les pères fondateurs des Etats-Unis. « Le virus woke est en train de tuer la civilisation occidentale », avait-il réagi, accusant Google de concevoir des programmes « racistes et anticivilisation ».

Le manque de rigueur de Grok est cohérent avec le dédain de Musk pour l'IA standard et les conventions de sécurité des médias sociaux, mais le générateur d'images arrive à un moment particulièrement délicat. La Commission européenne enquête déjà sur X pour des violations potentielles de la loi sur la sécurité numérique, qui régit la manière dont les très grandes plateformes en ligne modèrent le contenu, et elle a demandé à X et à d'autres entreprises, au début de l'année, des informations sur l'atténuation des risques liés à l'IA.

Si Grok-2 ne semble pas disposer de garde-fous, xAI indique dans les conditions générales d’utilisation qu’il est interdit d’utiliser l’IA pour "encourager la haine, la violence ou le préjudice à l’encontre d’un individu ou d’un groupe". De même, il est interdit de se servir de Grok à des fins de diffamation ou encore pour usurper l’identité d’une personne ou d’une entité.

Sources : conditions générales d'utilisation, présentation de Grok 2

Et vous ?

Gestion des filtres : Faut il censurer la génération d'images de l'IA comme OpenAI le fait avec ChatGPT ou laisser faire comme Elon Musk le fait avec Grok 2 ? Dans quelle mesure ?
Désinformation et contenus offensants : Comment pouvons-nous garantir que Grok ne propage pas de désinformation ou de contenus offensants ?
Créativité humaine : Grok peut générer du contenu, mais comment préserver la créativité individuelle face à cette automatisation ?

[fmartini]

Gestion des filtres : Faut il censurer la génération d'images de l'IA comme OpenAI le fait avec ChatGPT ou laisser faire comme Elon Musk le fait avec Grok 2 ? Dans quelle mesure ?

Non, simplement. Libre aux différents réseaux sociaux et autres plateformes d'adapter leurs chartes d'utilisation.

Désinformation et contenus offensants : Comment pouvons-nous garantir que Grok ne propage pas de désinformation ou de contenus offensants ?

Alors ce n'est pas Grok, une intelligence artificielle qui propage de la désinformation mais des intelligences humaines, qui utilisent l'IA
Comment faire pour que l'utilisateur d'une plateforme ne propage pas de désinformation ou de contenus offensants ? J'ai 4 potentielles solutions mais elles ne sont évidemment pas exhaustive :

• Avec une charte d'utilisation des plateformes de partage (réseaux sociaux, forums, etc..) et les sanctions qui vont avec en cas de non-respect.
• En intégrant des outils de détection d'IA par exemple.
• Les Notes de la Communauté sur X/Twitter fonctionnent relativement bien. Un contexte est souvent (toujours) apporté sur les fake news, y compris les images générées par IA. Les autres réseaux devraient s'en inspirer.
• Et le plus important, la sensibilisation : Un utilisateur sensibilisé est un pilier de la sécurité collective.

Créativité humaine : Grok peut générer du contenu, mais comment préserver la créativité individuelle face à cette automatisation ?

En continuant à créer individuellement Les bibliothécaires, journalistes et éditeurs n'ont pas disparu avec l'expansion des moteurs de recherche comme Google à l'époque. Alors je pense que tout comme avec l'arrivée de Google, l'IA fera sans doute évoluer la manière de fonctionner de certains domaine (telle que la créativité individuelle) sans pour autant la faire disparaitre. Ce n'est qu'un outil que personne n'oblige à utiliser.

[OrthodoxWindows]

Tout cela ressemble vraiment à une panique morale... Alors que dans les faits, les conséquences seront très limités. Le seul truc qui m’effraie avec la génération d'image est le risque de désinformation avec les deepfakes. Pour le reste, l'AI générative d'image est loin d'être la plus dangereuse. On devrait (et surtout ces activistes du dimanche) surtout s’inquiéter des risques de la surveillance algorithmique.

« Toutefois, ce problème a été résolu bien avant que ChatGPT ne soit accessible au public. Il est très inquiétant de constater que n'importe qui peut payer X 4 $ pour générer des images de Micky Mouse en train d'effectuer une fusillade de masse contre des enfants »

En quoi pouvoir générer des images de Micky Mouse en train d'effectuer une fusillade de masse contre des enfants représente un danger ?? Personne ne crois que Micky Mouse est un personnage réel...

[Ryu2000]

Personne ne crois que Micky Mouse est un personnage réel...

Ouais mais ça ne va pas plaire à Disney.

[OrthodoxWindows]

Ouais mais ça ne va pas plaire à Disney.

Certes

D'ailleurs quand on y pense, les grosses multinationales de gestion des droits d'auteur (de Disney à Warner en passant par Sony) sont en train de se faire vraiment avoir ; pendant des années, on nous a fait ch*** avec le strict respect du droit d'auteur, désormais ces même pouvoir publiques deviennent très laxistes avec l'IA. La différence est que ce n'a jamais été des multinationales du numérique qui piratais du contenu... Alors qu'avec l'IA, les intérêts financiers ne sont plus les mêmes

[Ryu2000]

désormais ces même pouvoir publiques deviennent très laxistes avec l'IA.

Il faut le temps que les lois se fassent, c'est un processus lent.

Il y a déjà des histoires à propos de l'origine des textes qui ont été donné aux IA pour apprendre. (il y a des journaux et des éditeurs qui ne sont pas content)
IA générative : des journaux français demandent des négociations sur l’utilisation de leurs contenus

Deux organisations d’éditeurs ont envoyé un courrier de mise en demeure aux entreprises de l’IA générative dont OpenAI, Google et Microsoft.

OpenAI reconnaît entraîner ChatGPT sur des contenus protégés par le droit d'auteur

Selon OpenAI, il serait "impossible de former les meilleurs modèles d'intelligence artificielle sans utiliser de contenus protégés par des droits d'auteur".

Les ayants droit n'embêtent pas l'intégralité de ceux qui utilisent des personnages copyrighté (tant qu'ils ne font pas d'argent avec).
Par exemple t'as le droit de faire un dessin de Chun-Li (ou un cosplay) et de le diffuser sur Twitter, Capcom ne va pas venir t'embêter.
Mais ça ne va peut-être pas durer, parce qu'avec Grok ça devient un peu trop facile de produire des images qui contiennent du contenu protégé.

Il faut que je m'abonne à l'offre premium de Twitter, j'aimerais bien essayer.