La guía completa sobre Deepfakes e IA para cuidadores

‍

Todo lo que los cuidadores deben saber sobre la IA y los Deepfakes:

‍

La inteligencia artificial (IA) se está desarrollando rápidamente. Puede generar eficiencia con ciertas tareas, incluidas la creación y la investigación de contenido. También está creando problemas nuevos y extremadamente difíciles relacionados con la propiedad intelectual y la explotación, incluidos los niños.

‍

El Papa, la Casa Blanca y un comité global de 18 países han promovido directrices y mandatos para el futuro de la IA. Sin embargo, está evolucionando mucho más rápido que la política y el gobierno.

‍

Una de estas aterradoras evoluciones es la tecnología deepfake. Utiliza una IA «profunda» para crear voces, imágenes, vídeos y conversaciones falsas. El contenido falso es tan realista que tenemos una nueva palabra: deepfake, que se acuñó por primera vez en Reddit en 2017.

‍

Y los deepfakes se están descontrolando rápidamente. Por ejemplo, los investigadores de Alibaba crearon una nueva herramienta de inteligencia artificial que convierte imágenes estáticas en vídeos de baile, llamada «Animate Anyone». Uno de los comentarios más populares en el GitHub del programa es: «... no puedo esperar a usar esto para la pornografía».

‍

O piense en los adolescentes de Nueva Jersey que crearon imágenes de desnudos de compañeras de clase femeninas desnudas. Nos tememos que esto es solo el principio. La pornografía vengativa y el contenido de abuso sexual infantil (CSAM) pasarán a otro nivel siniestro.

‍

El desafío de los deepfakes es que no existe una solución técnica sólida como un filtro para evitarlos. Hay varias medidas que los padres pueden tomar para mitigar el riesgo, y las compartimos a continuación. Pero también necesitamos desesperadamente una solución regulatoria para controlar la tecnología. Y, lamentablemente, estos avances parecen tomar desprevenidos a los gobiernos.

‍

¿Qué es una explicación básica de la IA?

‍

Para mostrar el poder de la IA y su facilidad de uso, le pedimos a ChatGPT (uno de los modelos de lenguaje de IA más populares) que escribiera una introducción explicando qué es la IA. En unos 5 segundos, escribió un post completo. Solo hemos incluido unos pocos extractos:

‍

He aquí una introducción a la IA:

‍

«La IA implica el desarrollo de algoritmos y sistemas computacionales capaces de realizar tareas que normalmente requieren inteligencia humana. Los sistemas de IA están diseñados para adaptar y mejorar su rendimiento con el tiempo, lo que les permite abordar desafíos complejos con eficiencia y precisión. El objetivo final es crear máquinas que puedan exhibir características como el razonamiento, la resolución de problemas, la percepción, el aprendizaje y la comprensión del lenguaje, capacidades tradicionalmente asociadas a la inteligencia humana».

‍

Este es el poder de la IA. En cuestión de segundos, ChatGPT generó contenido que parecía atractivo, investigado y bien estructurado. Es sorprendente y aterrador ver lo rápido y fácil que es crear contenido de calidad con inteligencia artificial.

‍

¿Cómo afecta la IA a los niños?

‍

El lanzamiento inicial de herramientas como ChatGPT causó problemas con las trampas. Con unas pocas instrucciones, los niños hicieron que ChatGPT generara documentos de primera categoría en lugar de leer, aprender y escribir por sí mismos. En un principio, las escuelas respondieron prohibiendo las herramientas de escritura basadas en inteligencia artificial. Sin embargo, pronto muchos se dieron cuenta de que los niños tienen que aprender a utilizarlas de manera responsable. Otras escuelas tomaron la medida prudente de crear una política de «uso ético de la IA».

‍

Vosloo cita una investigación de Ofcom (Oficina de Comunicaciones) del Reino Unido que indica que el 80% de los adolescentes conectados a Internet de entre 13 y 17 años utilizan ahora herramientas de IA generativa, al igual que el 40% de los niños de 7 a 12 años.

‍

Luego, los chatbots de IA comenzaron a aparecer en los motores de búsqueda como Google y Bing, y en las redes sociales. El más destacado es «Mi IA» de Snapchat, lo que la mayoría de los jóvenes ha considerado muy espeluznante. Al comprar en línea e interactuar con el «chat» del servicio de atención al cliente, muchos de nosotros ya hemos experimentado el poder de la IA para responder a nuestras preguntas.

‍

Era solo cuestión de tiempo antes de que una tecnología tan poderosa se utilizara para impulsar la explotación. Aunque las imágenes falsas y explícitas de celebridades han existido durante años, eran torpes y claramente inventadas. Pero una vez que la tecnología pasó a ser escalable y aterradoramente realista, se abrió la caja de Pandora. Ahora cualquier persona que aparezca en una imagen o un vídeo «normal» puede convertirse en víctima de imágenes o contenidos de vídeo falsos extremadamente realistas.

‍

Incluyendo pornografía falsa.

‍

O piense en la historia de la madre que recibió una llamada falsa de secuestro en la que utilizaba la voz de su hija generada por la inteligencia artificial.

‍

Ahora vamos a explicar los deepfakes, que incluyen la tecnología de desnudez y las novias virtuales (sí, lo has leído bien).

‍

¿Qué son los Deepfakes?

‍

Me gusta esta definición de techtarget.com: «un tipo de inteligencia artificial que se utiliza para crear engaños convincentes de imagen, audio y vídeo». Otra definición decía: «[los deepfakes] suelen usarse con fines malintencionados y tienen la intención de difundir información falsa». Es una forma de IA que utiliza el aprendizaje profundo, que es de donde proviene el nombre.

‍

Algunos ejemplos recientes de deepfakes:

‍

• Un Tom Hanks falso apareció en un comercial completo que vendía seguros dentales.
• Los vídeos de atrocidades inventadas durante el conflicto entre Israel y Hamás ocupan un lugar destacado en TikTok.
• Keanu Reeves, Tom Cruise y Robert Downey, Jr. han fabricado completamente canales de redes sociales a su imagen.

‍

¡Es casi imposible notar la diferencia a primera vista! Estas cuentas de redes sociales están administradas por Metaphysic, el pionero de la tecnología deepfake:

Los deepfakes pueden alterar fácilmente las expresiones faciales, manipular el habla e incluso tomar la cara de alguien y ponerla en el cuerpo de otra persona, como en el caso anterior. Puedes empezar a ver cómo esto podría usarse para causar daño.

‍

También hay toda una clase de aplicaciones y sitios web que «desnudan» imágenes. Solo tienes que subir cualquier foto real de una chica (casi toda la tecnología se ha centrado en imágenes femeninas, no masculinas) y la aplicación le quitará la ropa y mostrará una versión de ella desnuda. No es más que otra forma de desnudez falsa: colocar el rostro de una persona real sobre un cuerpo falso en una imagen o un vídeo. Pero la tecnología es tan realista que es casi imposible saber si es falsa.

‍

Un grupo de más de 30 chicas adolescentes de un Escuela secundaria de Nueva Jersey fueron víctimas de desnudos deepfake generados por compañeros de clase. Una chica declaró: «Somos conscientes de que hay chicos espeluznantes por ahí... pero nunca pensarías que uno de tus compañeros te violaría de esa manera».

‍

¿Cuáles son los peligros de la tecnología Deepfake?

‍

¡El robo de identidad se vuelve mucho más fácil cuando eres dueño del rostro de alguien! Especialmente si tenemos en cuenta la biometría.

‍

Se puede crear información falsa a gran escala, especialmente durante un año electoral. La oposición puede falsificar un discurso político y hacer que cualquier figura pública diga cualquier cosa. Esto significa que la reputación puede arruinarse instantáneamente en nuestra «cultura de cancelar rápidamente». Pensemos en la historia real de estudiantes de Nueva York que crearon un video falso de su director con temas racistas y explícitos.

‍

Los malos actores podrían utilizar voces falsas para atacar a las personas mayores. Una madre de Colorado recibió una llamada de un número desconocido y oyó a su hija llorar, explicando desesperadamente que había sido secuestrada por unos hombres y que estaba retenida para pedir un rescate (todo eso no era cierto).

‍

Al igual que las niñas de Nueva Jersey, las estudiantes pueden ser acosadas sexualmente y victimizadas por sus compañeros de clase que difunden imágenes falsas y explícitas, lo que puede tener un impacto real en las oportunidades de educación superior y carreras profesionales.

‍

La pornografía no consentida ahora puede ser creada fácilmente por adultos de otros adultos.

‍

Los sitios web de Deepfake y nudify cambian a diario. Esto significa que la mayoría de los controles parentales siempre van a bloquear estos sitios. Probamos 43 sitios de deepfake, desnudos y con novias virtuales comparándolos con controles parentales populares, como Covenant Eyes, CleanBrowsing, «Limit Adult Websites» de Apple, Bark y SafeSearch de Google. Solo a una pareja le fue bien. El resto funcionó muy mal. Compartí los resultados con las organizaciones y acepté no compartir públicamente lo que encontráramos si solucionaban los problemas. Todas menos una han corregido las deficiencias (sigo intentando encontrar a la persona adecuada). Sin embargo, se añaden nuevos sitios a diario.

‍

Los pedófilos pueden crear contenido de abuso sexual infantil generado por IA (AIG-CSAM) a gran escala, lo que alimenta una epidemia mundial de CSAM y problemas como la sextorsión, en la que se podría convencer a los adolescentes de que envíen dinero para evitar que circulen fotos falsas (pero los adolescentes no se dan cuenta de que son falsas).

‍

A nivel humano, hay otros daños que debemos tener en cuenta. Por ejemplo, hay miles de menores en los países pobres que están incorporando imágenes y contenido a sus modelos de inteligencia artificial (entrenándolos) para que sean más precisos.

‍

Además, considere el impacto de las novias virtuales totalmente personalizadas. Es exactamente lo que parece. Puedes generar una imagen o un video de cualquier mujer con las funciones que solicites. Ella puede enviar mensajes de texto a tu teléfono, llamarte, enviarte desnudos y mantener una relación virtual falsa pero muy convincente.

‍

He aquí una observación. La mayoría de los sitios de deepfake y de generación de IA que visitamos tienen un servidor Discord. Discord tiene una sólida base de usuarios de jugadores masculinos. Estereotípicamente, una audiencia que es un poco más incómoda socialmente, por lo que una novia virtual podría ser más fácil. Considera este lenguaje perverso utilizado en un sitio web dirigido a hombres jóvenes:

‍

Imagina perder el tiempo llevándola a citas, cuando puedes usar Undress AI para conseguir sus desnudos.

‍

¿Qué pueden hacer los padres para ayudar a prevenir los Deepfakes?

‍

Como dijimos en la apertura, no hay muchas soluciones técnicas que puedan prevenir este problema. Todo el mundo tiene un teléfono inteligente y puede tomar fotografías de cualquier persona. Pero aquí hay 14 maneras de abordar el riesgo de los deepfakes:

‍

1. Relativamente, deje que su hijo adolescente lea esta publicación. Mantén una conversación curiosa y tranquila sobre cómo la IA puede beneficiar a la humanidad. Luego, conversa sobre los riesgos y las consecuencias. No estás saludando a la IA con el dedo decepcionado y de «boom». Pero esta versión de «Internet», que es más poderosa que la versión «rota» de Internet que tenemos hoy en día, avanza muy rápido. Más rápido que nuestra capacidad para hacer que cause menos daño a los humanos.
2. Retraso, retraso, retraso. Una huella digital más pequeña crea un menor riesgo de daño digital. Siempre. #delayistheway
3. Si su hijo tiene un teléfono Android, además de usar El filtrado de Family Link, utilizar Software Premium de Bark o Ojos del Pacto para detectar texto explícito y pornografía en la pantalla. ¿Por qué? Porque las URL (sitios web) de los deepfakes cambian a diario. Una «lista de sitios no permitidos» que intente bloquear estos sitios es buena, pero debe actualizarse constantemente (lo cual es insostenible).
4. Si su hijo tiene un iPhone, utilice el «Limite los sitios web para adultos» filtrado, pero nada puede analizar la pantalla debido a las restricciones de iOS. Ladrar, Canopy y Ojos del Pacto pueden ver algo de texto y alguna actividad de fondo y son esenciales. Sin embargo, los padres tendrán que depender en gran medida de la conversación y la conexión, ya que pocas soluciones técnicas funcionan en los iPhones. Nota: recientemente compartimos los resultados de nuestras pruebas de direcciones URL falsas con empresas, incluida Apple, y todas están abordando las deficiencias.
5. Nos gustaría que un niño conociera las redes sociales por primera vez en Teléfono Bark porque los padres tendrán más posibilidades de intervenir si un niño está explorando los sitios web o es víctima de sextorsión.
6. Tanto para iPhones como para Android, los padres deben controlar todas las descargas de aplicaciones. Las aplicaciones Deepfake y Face Swap son frecuentes y están clasificadas por edades a partir de los 4 años, lo cual es horrible.
7. Acuerde una palabra clave o una pregunta única que pueda hacer si recibe una llamada telefónica inusual de su hijo. Asegúrate de que tu hijo también sepa cómo gestionar las llamadas de personas que no conoce (¡avisa, bloquea, borra! ¡Muéstrales este vídeo).
8. Hable con sus hijos preadolescentes y adolescentes sobre la sextorsión. ¡Pronto! Nuestra publicación lo explica todo.
9. Si su hijo está en Instagram, TikTok, Se real, o Snapchat, mantienen muy pocos seguidores en las redes sociales. Menos de 100 personas, si es posible. Haz que se imaginen entregando cada foto a cada persona a la que siguen.
10. Los padres y cuidadores también deben tener mucho cuidado con las fotos que compartimos en línea. Quizás la mayoría de las fotos de sus hijos solo se compartan con la familia en un texto.
11. Si su hijo tiene Instagram, ten mucho cuidado con lo que comparten en su perfil público. Nunca incluyas su perfil de Snapchat.
12. Si su hijo tiene Instagram o TikTok, asegúrese de que su cuenta sea privada (esta debería ser la predeterminada si se usó la fecha de nacimiento correcta).
13. Hable sobre las noticias falsas. ¿Su hijo tiene algunas técnicas para detectarlo? (p. ej., varias fuentes). Si suena demasiado bueno para ser verdad, entonces probablemente lo sea.
14. Quite los teléfonos de las escuelas, porque son solo un lugar más donde se pueden tomar fotos. Hemos escrito extensamente sobre este tema.
15. Sé que no todos nuestros seguidores son personas que oran. Por lo tanto, este último paso no se aplicará a todos, pero debo mencionarlo para aquellos que sí lo hacen. Este es un tema malvado. Por favor, trátelo como tal.

¿Qué pasa si tengo más preguntas? ¿Cómo puedo mantenerme al día?

‍
¡Dos acciones que puedes tomar!

‍

1. Suscríbase a nuestro boletín de tendencias tecnológicas, el Descargar PYE. Aproximadamente cada 3 semanas, compartiremos las novedades, lo que está haciendo el equipo de PYE y un mensaje de Chris.
2. ¡Haga sus preguntas en nuestra comunidad privada de padres llamada The Table! No es otro grupo de Facebook. Sin anuncios, sin algoritmos, sin asteriscos. ¡Solo conversaciones honestas y críticas y aprendizaje profundo! Para padres que quieren «ir despacio» juntos. ¡Conviértase en miembro hoy mismo!

‍