Le guide complet des deepfakes et de l'IA pour les soignants

‍

Tout ce que les soignants doivent savoir sur l'IA et les Deepfakes :

‍

L'intelligence artificielle (IA) se développe rapidement. Il peut être efficace pour certaines tâches, notamment la création de contenu et la recherche. Cela crée également de nouveaux problèmes extrêmement difficiles liés à la propriété intellectuelle et à l'exploitation, y compris les enfants.

‍

Le pape, la Maison Blanche et un comité mondial de 18 pays ont tous fait pression pour obtenir des directives et des mandats pour l'avenir de l'IA. Mais elle évolue beaucoup plus rapidement que les politiques et le gouvernement.

‍

L'une de ces évolutions terrifiantes est la technologie du deepfake. Il utilise une IA « profonde » pour créer de fausses voix, images, vidéos et conversations. Le faux contenu est tellement réaliste que nous avons un nouveau mot : deepfake, qui a été inventé pour la première fois sur Reddit en 2017.

‍

Et les deepfakes deviennent rapidement incontrôlables. Par exemple, les chercheurs d'Alibaba ont créé un nouvel outil d'intelligence artificielle qui transforme des images statiques en vidéos de danse, baptisé « Animate Anyone ». L'un des principaux commentaires sur le GitHub du programme est : «... j'ai hâte de l'utiliser pour de la pornographie ».

‍

Ou considérez les adolescents du New Jersey qui ont créé de fausses images nues de camarades de classe féminines. Nous craignons que ce ne soit que le début. La vengeance pornographique et les contenus d'abus sexuels sur enfants (CSAM) passeront tous deux à un autre niveau sinistre.

‍

Le problème des deepfakes est qu'il n'existe pas de solution technique solide, telle qu'un filtre, pour les empêcher. Les parents peuvent prendre plusieurs mesures pour atténuer les risques et nous les partageons ci-dessous. Mais nous avons également désespérément besoin d'une solution réglementaire pour maîtriser la technologie. Et les gouvernements semblent terriblement pris au dépourvu par ces avancées.

‍

Qu'est-ce qu'une explication de base de l'IA ?

‍

Pour démontrer la puissance de l'IA et sa facilité d'utilisation, nous avons demandé à ChatGPT (l'un des modèles de langage d'IA les plus populaires) de rédiger une introduction expliquant ce qu'est l'IA. En 5 secondes environ, il a écrit un article complet. Nous n'en avons inclus que quelques extraits :

‍

Voici une introduction à l'IA :

‍

« L'IA implique le développement d'algorithmes et de systèmes informatiques capables d'effectuer des tâches qui nécessitent généralement l'intelligence humaine. Les systèmes d'IA sont conçus pour adapter et améliorer leurs performances au fil du temps, ce qui leur permet de relever des défis complexes avec efficacité et précision. L'objectif ultime est de créer des machines capables de présenter des caractéristiques telles que le raisonnement, la résolution de problèmes, la perception, l'apprentissage et la compréhension du langage, des capacités traditionnellement associées à l'intelligence humaine. »

‍

C'est le pouvoir de l'IA. En quelques secondes, ChatGPT a généré un contenu attrayant, étudié et bien structuré. C'est à la fois incroyable et effrayant de voir à quel point il est facile et rapide de créer du contenu de qualité à l'aide de l'IA.

‍

Quel est l'impact de l'IA sur les enfants ?

‍

Le lancement initial d'outils tels que ChatGPT a suscité des problèmes de tricherie. À l'aide de quelques instructions, les enfants ont demandé à ChatGPT de générer des articles de classe A au lieu de lire, d'apprendre et d'écrire eux-mêmes. Les écoles ont d'abord réagi en interdisant les outils d'écriture basés sur l'IA. Mais beaucoup se sont vite rendu compte que les enfants devaient apprendre à l'utiliser de manière responsable. D'autres écoles ont pris la mesure prudente de créer une politique d' « utilisation éthique de l'IA ».

‍

Vosloo cite une étude de l'Ofcom (Office of Communications) au Royaume-Uni indiquant que 80 % des adolescents en ligne âgés de 13 à 17 ans utilisent désormais des outils d'IA générative, tout comme 40 % des enfants de 7 à 12 ans.

‍

Puis les chatbots IA ont commencé à apparaître dans les moteurs de recherche tels que Google et Bing, et sur les réseaux sociaux. Le plus important est « Mon IA » de Snapchat qui a été jugée super effrayante par la plupart des jeunes. En faisant des achats en ligne et en interagissant avec le « chat » du service client, beaucoup d'entre nous ont découvert la puissance de l'IA pour répondre à nos questions.

‍

Ce n'était qu'une question de temps avant qu'une technologie aussi puissante ne soit utilisée pour alimenter l'exploitation. Bien que de fausses images explicites de célébrités existent depuis des années, elles étaient maladroites et clairement fabriquées de toutes pièces. Mais une fois que la technologie est devenue évolutive et terriblement réaliste, la boîte de Pandore a été ouverte. Désormais, toute personne figurant sur une image ou une vidéo « normale » peut être victime de fausses images ou de contenus vidéo extrêmement réalistes.

‍

Y compris de la fausse pornographie.

‍

Ou considérez l'histoire de la mère qui a reçu un faux appel d'enlèvement utilisant la voix générée par l'IA de sa fille.

‍

Nous allons maintenant expliquer les deepfakes, qui incluent la technologie de nudification, et les copines virtuelles (oui, vous avez bien lu).

‍

Que sont les Deepfakes ?

‍

J'aime bien cette définition de techtarget.com : « un type d'intelligence artificielle utilisé pour créer des canulars visuels, audio et vidéo convaincants ». Une autre définition mentionnait : « [les deepfakes] sont généralement utilisés de manière malveillante dans le but de diffuser de fausses informations ». Il s'agit d'une forme d'IA qui utilise l'apprentissage profond, d'où son nom.

‍

Voici quelques exemples récents de deepfakes :

‍

• Un faux Tom Hanks a été présenté dans une publicité complète vendant de l'assurance dentaire.
• Les vidéos d'atrocités fabriquées de toutes pièces liées au conflit entre Israël et le Hamas occupent une place importante sur TikTok.
• Keanu Reeves, Tom Cruise et Robert Downey, Jr. ont entièrement inventé des réseaux sociaux à leur image.

‍

Il est quasiment impossible de faire la différence au premier coup d'œil ! Ces comptes de réseaux sociaux sont gérés par Metaphysic, le pionnier de la technologie deepfake :

Les deepfakes peuvent facilement modifier les expressions faciales, manipuler la parole et même prendre le visage de quelqu'un et le placer sur le corps d'une autre personne, comme ci-dessus. Vous pouvez commencer à comprendre comment cela pourrait être utilisé pour causer des dommages.

‍

Il existe également toute une catégorie d'applications et de sites Web qui « nudifient » les images. Il suffit de télécharger n'importe quelle photo réelle d'une fille (presque toute la technologie a été conçue sur des images féminines, pas sur des images masculines) et l'application retirera ses vêtements et affichera une version d'elle nue. Il s'agit simplement d'une autre forme de nudité deepfake, qui consiste à placer le visage d'une personne réelle sur un faux corps dans une image ou une vidéo. Mais la technologie est tellement réaliste qu'il est presque impossible de savoir si elle est fausse.

‍

Un groupe de plus de 30 adolescentes d'un Lycée du New Jersey ont été victimes de deepfake nus générés par des camarades de classe. Une fille a déclaré : « Nous sommes conscientes qu'il existe des types effrayants... mais vous n'auriez jamais pensé qu'un de vos camarades de classe vous violerait de la sorte. »

‍

Quels sont les dangers de la technologie Deepfake ?

‍

Le vol d'identité devient beaucoup plus facile lorsque vous êtes propriétaire du visage de quelqu'un ! Surtout quand on pense à la biométrie.

‍

De fausses informations peuvent être créées à grande échelle, en particulier pendant une année électorale. L'opposition peut falsifier un discours politique, en faisant dire n'importe quoi à n'importe quelle personnalité publique. Cela signifie que les réputations peuvent être anéanties instantanément dans notre « culture d'annulation rapide ». Pensez à l'histoire vraie d'étudiants de New York qui ont créé une fausse vidéo de leur directeur sur des thèmes racistes et explicites.

‍

De fausses voix pourraient être utilisées par de mauvais acteurs pour s'en prendre à des personnes âgées. Une mère du Colorado a reçu un appel d'un numéro inconnu et a entendu sa fille pleurer, expliquant désespérément qu'elle avait été kidnappée par des hommes et qu'elle était détenue contre rançon (ce n'était pas vrai).

‍

Comme les filles du New Jersey, les étudiants peuvent être harcelés sexuellement et victimisés par leurs camarades de classe qui diffusent de fausses images explicites, ce qui peut avoir un réel impact sur les opportunités d'études supérieures et les perspectives de carrière.

‍

La pornographie non consensuelle peut désormais facilement être créée par des adultes ou par d'autres adultes.

‍

Les sites Deepfake et Nudify changent tous les jours. Cela signifie que la plupart des contrôles parentaux seront toujours à l'origine du blocage de ces sites. Nous avons testé 43 sites de deepfake, de nudification et de GF virtuels par rapport à des contrôles parentaux populaires tels que Covenant Eyes, CleanBrowsing, « Limit Adult Websites » d'Apple, Bark et SafeSearch de Google. Seuls quelques-uns se sont bien comportés. Les autres ont très mal performé. J'ai partagé les résultats avec les organisations et j'ai accepté de ne pas partager ce que nous avons découvert publiquement si elles résolvaient les problèmes. Tous sauf un ont corrigé les lacunes (j'essaie toujours de trouver la bonne personne). Mais de nouveaux sites sont ajoutés quotidiennement.

‍

Les contenus d'abus sexuels sur enfants générés par l'IA (AIG-CSAM) peuvent être créés par des pédophiles à grande échelle, alimentant ainsi une épidémie mondiale d'escroquerie et des problèmes tels que la sextorsion, où les adolescents pourraient être convaincus d'envoyer de l'argent pour éviter que de fausses photos ne circulent (mais les adolescents ne peuvent pas dire qu'elles sont fausses).

‍

Sur le plan humain, il y a d'autres préjudices dont nous devons tenir compte. Par exemple, dans les pays pauvres, des milliers de mineurs introduisent des images et du contenu dans des modèles d'IA, en les formant, afin qu'ils soient plus précis.

‍

Pensez également à l'impact des copines virtuelles entièrement personnalisées. C'est exactement ce à quoi ça ressemble. Vous pouvez générer une image ou une vidéo de n'importe quelle femme avec les fonctionnalités que vous demandez. Elle peut envoyer des SMS à votre téléphone, vous appeler, vous envoyer des nus et entretenir une relation virtuelle fausse mais très convaincante.

‍

Voici une observation. La plupart des sites de deepfake et de génération d'IA que nous avons visités disposent d'un serveur Discord. Discord a une solide base d'utilisateurs de joueurs masculins. Stéréotypiquement, un public un peu plus maladroit socialement, donc une petite amie virtuelle pourrait être plus facile. Pensez à ce langage pervers utilisé sur un site Web qui cible les jeunes hommes :

‍

Imaginez perdre du temps à l'emmener à des rendez-vous, alors que vous pouvez simplement utiliser Undress AI pour la mettre nue.

‍

Que peuvent faire les parents pour aider à prévenir les deepfakes ?

‍

Comme nous l'avons indiqué dans l'ouverture, peu de solutions techniques peuvent empêcher ce problème. Tout le monde possède un smartphone et peut prendre des photos de n'importe qui. Mais voici 14 façons de faire face au risque de deepfakes :

‍

1. Relationnellement, laissez votre adolescent lire cet article. Ayez une conversation curieuse et calme sur les avantages que l'IA peut apporter à l'humanité. Discutez ensuite des risques et de leurs conséquences. Vous n'êtes pas en train de regarder l'IA comme un « boomer » déçu. Mais cette version d' « Internet » qui est plus puissante que la version « cassée » d'Internet que nous avons aujourd'hui progresse si vite. Plus vite que notre capacité à faire en sorte qu'il fasse moins de mal aux humains.
2. Retard, retard, retard. Une empreinte numérique réduite réduit le risque de dommages numériques. Toujours. #delayistheway
3. Si votre enfant possède un téléphone Android, en plus d'utiliser Filtrage de Family Link, utiliser Logiciel Bark's Premium ou Covenant Eyes pour détecter du texte explicite et de la pornographie à l'écran. Pourquoi ? Parce que les URL (sites Web) des deepfakes changent tous les jours. Une « liste à ne jamais autoriser » qui tente de bloquer ces sites est une bonne chose mais doit être constamment mise à jour (ce qui est intenable).
4. Si votre enfant possède un iPhone, utilisez « Limiter les sites Web pour adultes » filtrage, mais rien ne peut analyser l'écran en raison des contraintes iOS. Écorce, Canopy et Covenant Eyes peuvent voir du texte et certaines activités en arrière-plan et sont essentiels. Cependant, les parents devront s'appuyer largement sur la conversation et la connexion, car peu de solutions techniques fonctionnent sur les iPhones. Remarque : nous avons récemment partagé les résultats de nos tests d'URL Deepfake avec des entreprises, dont Apple, et toutes sont en train de combler les lacunes.
5. Nous aimerions que les enfants puissent découvrir les réseaux sociaux pour la première fois sur un Téléphone Bark car les parents auront les meilleures chances d'intervention si un enfant explore les sites Web ou est victime de sextorsion.
6. Pour les iPhones et les Androïdes, les parents devraient contrôler tous les téléchargements d'applications. Les applications Deepfake et Face Swap sont répandues et classées dès l'âge de 4 ans et plus, ce qui est horrible.
7. Convenez d'un mot de code ou d'une question unique que vous pouvez poser si vous recevez un appel téléphonique inhabituel de la part de votre enfant. Assurez-vous que votre enfant sait également comment gérer les appels de personnes qu'il ne connaît pas (prévenir, bloquer, supprimer ! Montrez-leur cette vidéo).
8. Parlez de la sextorsion à vos préadolescents et adolescents. Bientôt ! Notre article explique tout.
9. Si votre enfant est sous Instagram, TikTok, Soyez réel, ou Snapchat, maintiennent un très faible suivi sur les réseaux sociaux. Moins de 100 personnes, si possible. Faites-leur imaginer qu'ils remettent chaque photo à chaque personne qu'ils suivent.
10. Les parents et les tuteurs doivent également faire très attention aux photos que nous partageons en ligne. Peut-être que la plupart des photos de vos enfants ne sont partagées avec la famille que sous forme de texte.
11. Si votre enfant a Instagram, faites très attention à ce qu'ils partagent dans leur profil public. N'incluez jamais leur profil Snapchat.
12. Si votre enfant possède Instagram et/ou TikTok, assurez-vous que son compte est privé (ce devrait être le compte par défaut si la date de naissance correcte a été utilisée).
13. Discutez des fausses nouvelles. Votre enfant possède-t-il quelques techniques pour le repérer ? (sources multiples, par exemple). Si cela semble trop beau pour être vrai, c'est probablement le cas.
14. Retirez les téléphones des écoles, car ce ne sont qu'un endroit de plus où vous pouvez prendre des photos. Nous avons beaucoup écrit à propos de ce sujet.
15. Je sais que nos fidèles ne sont pas tous des personnes qui prient. Cette dernière étape ne s'appliquera donc pas à tout le monde, mais je dois la mentionner pour ceux qui le font. C'est un problème grave. Veuillez le traiter comme tel.

Et si j'ai d'autres questions ? Comment puis-je me tenir au courant ?

‍
Deux mesures que vous pouvez prendre !

‍

1. Abonnez-vous à notre newsletter sur les tendances technologiques, Téléchargement PYE. Toutes les trois semaines environ, nous partagerons les nouveautés, les activités de l'équipe PYE et un message de Chris.
2. Posez vos questions dans notre communauté de parents privée appelée The Table ! Ce n'est pas un autre groupe Facebook. Pas de publicités, pas d'algorithmes, pas d'astérisques. Juste des conversations honnêtes et critiques et un apprentissage approfondi ! Pour les parents qui veulent « y aller doucement » ensemble. Devenez membre dès aujourd'hui !

‍