Les consommateurs surestiment leur capacité à détecter les deepfakes, selon une étude de Jumio
67 % des consommateurs déclarent connaitre les technologies d'IA générative, mais ils surestiment leur capacité à détecter une deepfake vidéo, selon une étude récente de Jumio
Une nouvelle étude de Jumio révèle que 52 % des personnes interrogées au niveau mondial pensent qu'elles pourraient détecter avec succès une deepfake vidéo.
Jumio, le principal fournisseur de solutions automatisées de bout en bout de vérification d'identité, d'évaluation des risques et de conformité, a publié l'étude Jumio 2023 sur l'identité en ligne, le deuxième volet de son étude annuelle sur les consommateurs mondiaux, menée par Censuswide. Les résultats de cette année mettent en évidence une compréhension par les consommateurs de la façon dont l'IA générative et les technologies de deepfake pourraient accélérer la fraude d'identité, et le besoin subséquent d'identités numériques pour la vérification et l'authentification en ligne. Mais les consommateurs semblent également surestimer leur capacité à repérer les deepfakes, ce qui peut les rendre encore plus vulnérables aux attaques.
L'étude a porté sur 8 055 consommateurs adultes répartis équitablement entre le Royaume-Uni, les États-Unis, Singapour et le Mexique. Plus des deux tiers (67 %) déclarent connaître les outils d'IA générative - tels que ChatGPT, DALL-E et Lensa AI - qui peuvent produire du contenu fabriqué, notamment des vidéos, des images et du son. Le niveau de connaissance est le plus élevé chez les consommateurs de Singapour (87 %) et le plus faible chez ceux du Royaume-Uni (56 %).
Une sous-estimation de la sophistication des technologies
Les consommateurs sont très sensibilisés à l'IA générative et aux deepfakes : 52 % des personnes interrogées pensent pouvoir détecter une vidéo deepfake. Ce sentiment reflète un excès de confiance de la part des consommateurs, alors que les deepfakes ont atteint un niveau de sophistication tel qu'il est impossible de les détecter à l'œil nu.
Cette situation est préoccupante étant donné que des chiffres récents de UK Finance ont révélé que les escroqueries à l'usurpation d'identité ont coûté au Royaume-Uni 177 millions de livres sterling en 2022. L'étude souligne en particulier que ce phénomène est dû au fait que les escroqueries sont de plus en plus difficiles à repérer, car les signes avant-coureurs, tels que les fautes de frappe ou les sites web falsifiés, sont moins fréquents en raison de l'utilisation d'outils d'IA générative. Aux États-Unis, les consommateurs ont perdu 2,6 milliards de dollars à cause d'escroqueries à l'usurpation d'identité en 2022, contre 2,4 milliards de dollars en 2021, selon la Federal Trade Commission.
Les données de Jumio montrent également une augmentation constante de l'utilisation de deepfakes de plus en plus sophistiqués à travers le monde et les industries, avec une présence plus forte dans les secteurs des paiements et de la cryptographie.
"Beaucoup de gens semblent penser qu'ils peuvent repérer un deepfake. Bien qu'il y ait certainement des signes révélateurs à rechercher, les deepfakes s'améliorent de manière exponentielle en permanence et deviennent de plus en plus difficiles à détecter sans l'aide de l'IA", a déclaré Stuart Wells, directeur de la technologie de Jumio. "Alors que les entreprises auront de plus en plus besoin de technologies basées sur l'IA pour repérer et protéger leurs réseaux et leurs clients des deepfakes, les consommateurs peuvent se protéger eux-mêmes en traitant avec scepticisme les images, les vidéos et les fichiers audio provocateurs. Une recherche rapide permet généralement de savoir s'il s'agit d'un faux ou non."
La prise de conscience évolue vers la compréhension d'une utilisation potentiellement nuisible
Alors que les consommateurs sont de plus en plus conscients de l'existence de ces technologies, ils commencent également à comprendre comment elles peuvent être utilisées pour alimenter l'usurpation d'identité. Plus de la moitié d'entre eux (57 %) pensent que l'usurpation d'identité en ligne deviendra plus facile, et les consommateurs de Singapour sont ceux qui comprennent le mieux l'utilisation néfaste potentielle de ces technologies (73 %). Ces niveaux diminuent chez les consommateurs du Mexique (62 %), des États-Unis (49 %) et du Royaume-Uni (43 %).
Il incombe aux entreprises d'éduquer et de mieux protéger les consommateurs
"Les organisations ont le devoir d'éduquer leurs clients sur les nuances des technologies d'IA générative pour les aider à développer des attentes plus réalistes quant à leur capacité à détecter les deepfakes", a déclaré Philipp Pointner, chef de l'identité numérique chez Jumio. "Dans le même temps, même la meilleure éducation ne sera jamais en mesure d'arrêter complètement l'utilisation par un fraudeur de technologies en évolution. Les organisations en ligne doivent chercher à mettre en œuvre des systèmes de vérification multimodaux, basés sur la biométrie, capables de détecter les deepfakes et d'empêcher l'utilisation d'informations personnelles volées. Il est encourageant de constater que l'étude indique que les consommateurs sont très intéressés par cette forme de vérification de l'identité, et que les entreprises devraient agir rapidement en ce sens."
L'enquête a révélé que plus de deux tiers (68 %) des consommateurs sont prêts à utiliser une identité numérique pour se vérifier en ligne. Les principaux secteurs dans lesquels ils préféreraient une identité numérique à une pièce d'identité physique (comme un permis de conduire ou un passeport) sont les services financiers (43 %), les administrations publiques (38 %) et les soins de santé (35 %).
Source : Jumio
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Répondre avec citation
Partager