Los empleados de OpenAI afirman que la empresa no está preocupada por la seguridad

‍

Un grupo de trabajadores empleados anteriormente y actualmente en OpenAI dicen la verdad sobre la «cultura de la imprudencia y el secreto» dentro de la empresa.
Los expertos afirman que OpenAI no ha hecho lo suficiente para evitar que su IA se vuelva peligrosa.

William Saunders, un ingeniero de investigación que dejó OpenAI en febrero, dijo esto durante su partida: «Cuando me inscribí en OpenAI, no me apunté a esta actitud de 'saquemos las cosas al mundo y veamos qué pasa y solucionémoslas después'».

Saunders y otros afirman que OpenAI ha utilizado tácticas legales, como acuerdos de no desprecio, para evitar que los trabajadores expresen su preocupación por la tecnología.

OpenAI se está volviendo codicioso y está trabajando imprudentemente para desarrollar la «AGI» (Inteligencia General Artificial), el término industrial para una computadora que es capaz de hacer cualquier cosa que un humano pueda hacer.

La semana pasada informamos que su nuevo Comité de Seguridad está dirigido por su CEO, Sam Altman, lo que supone un evidente conflicto de intereses y solo refuerza estas afirmaciones, lo que sugiere que OpenAI se centra en el progreso y las ganancias, más que en la protección.

Sabíamos que la IA causaría graves riesgos, por lo que nuestra guía definitiva sobre IA y Deepfakes ofrece a las familias 15 consejos para mantenerse a salvo. El enlace está en la descripción siguiente: https://bit.ly/3TVFoeK

‍

Nueva Zelanda prohíbe los teléfonos en las escuelas

Para empezar, una buena noticia es que Nueva Zelanda ha emitido nuevas regulaciones sobre los estudiantes y los teléfonos inteligentes en las escuelas. Todo el país está adoptando una estrategia de «salir por un día». Esta es su declaración:

«El reglamento exige que las escuelas se aseguren de que los estudiantes no usen ni accedan a un teléfono mientras asisten a la escuela, incluso durante la hora del almuerzo y los descansos. Esto incluye a los estudiantes que están cursando un curso escolar o que hacen visitas fuera del recinto escolar».

Los estudiantes pueden tener acceso para usar sus dispositivos cuando:

Se requiere un teléfono por motivos de salud

Se necesita un teléfono para apoyar a un estudiante con una discapacidad o dificultad de aprendizaje

Un profesor indica a los alumnos que usen los teléfonos para una tarea educativa específica

El director determina que hay circunstancias especiales que justifican el uso del teléfono, como que un estudiante sea un padre adolescente.

Fuera de esos casos específicos, ya sea entre clases, durante el almuerzo o incluso durante los descansos, ¡no hay teléfonos!

Esto es ideal para los cerebros jóvenes que no necesitan las distracciones constantes (a menudo de nosotros como padres) que vienen con sus teléfonos. Para obtener más información sobre los beneficios de estrategias como esta para salir de casa, visita phonefreeschools.com

‍

Incluso cuando se sabe que los desnudos son falsos, las víctimas siguen siendo acosadas

Las fotos falsas de desnudos causaron revuelo en una escuela secundaria de Nueva Jersey el año pasado. Seis meses después, estas imágenes, creadas con aplicaciones de inteligencia artificial que combinan el rostro de un compañero de clase con un cuerpo desnudo, siguen difundiéndose por varias escuelas.

Muchos de sus padres permanecen completamente inconscientes.

Según entrevistas y encuestas realizadas por Human Factor, una empresa de estrategia de resolución de conflictos cuyos fundadores pasaban tiempo con los estudiantes, los sujetos de estas imágenes generadas por la IA se sienten humillados y se enfrentan a juicios y a acoso.

La firma encuestó a más de 1,000 estudiantes, educadores y padres de todo el país en marzo y abril para desarrollar una guía para padres y educadores.

Cuando se les preguntó quién se vería más afectado por los desnudos falsos (el creador o la víctima), el 73% de los estudiantes indicó que era la víctima.

«Incluso si se desacreditara como una imagen falsa, el sujeto seguiría siendo acosado y burlado», dijo un estudiante de Eldorado, Illinois.

«Su moral sería cuestionada», señaló un estudiante de Seale, Alabama

«La gente los verá de manera diferente», agregó un estudiante de Levittown, Nueva York

Hasta hace poco, pocos estudiantes sabían que sus fotos en las redes sociales podían manipularse para convertirlas en imágenes de desnudos mediante la IA. Ahora, docenas de herramientas para «intercambiar rostros» y «desnudarse» están disponibles en línea a bajo costo o sin costo alguno, lo que acelera los niveles de estrés de los adolescentes.

Nuestro cerebro procesa las imágenes 60 000 veces más rápido que el texto, por lo que las recordamos muy bien. Es difícil olvidar una imagen. Incluso cuando las fotos se borran o desaparecen de las aplicaciones de mensajería, es poco probable que los compañeros de clase las olviden. Los investigadores descubrieron que las imágenes creadas son tan realistas que es casi imposible distinguirlas de las reales.

Historias como esta se están volviendo demasiado comunes. Hemos creado una guía definitiva sobre inteligencia artificial y Deepfakes que ofrece 15 consejos para mantener a las familias seguras. El enlace se encuentra en la descripción que aparece a continuación: https://bit.ly/3TVFoeK

Twitch se convierte en el centro de la política y pierde la confianza y el equipo de seguridad

A la luz del conflicto que está teniendo lugar en Gaza, muchas plataformas de redes sociales han estado limitando y restringiendo el contenido político. Sin embargo, este no es el caso de Twitch, una aplicación de transmisión en vivo extremadamente popular, que solo tiene una calificación para mayores de 12 años.

Hace unas semanas, informamos de cómo Twitch estaba ganando terreno como fuente de noticias, debido a que los streamers emitieron en directo en medio de las protestas y a que no tenían los prejuicios de la mayoría de los principales medios de comunicación.

Esta semana, personas influyentes se reunieron y organizaron una campaña masiva de recaudación de fondos para ayudar a la población de Gaza. El evento se retransmitió en directo en Twitch y recaudó 1,5 millones de dólares.

La combinación de un conflicto muy documentado en Gaza, una audiencia cada vez mayor de noticias auténticas y la reducción del contenido político en otras plataformas ha llevado a Twitch a convertirse en el centro del contenido político.

Padres, Twitch es una aplicación muy madura. Y su política de contenido cambia constantemente. A principios de este año, permitieron la desnudez durante unos días, ¡de lo que hablaremos más adelante! Y justo el otro día, Twitch sustituyó toda su confianza y seguridad por «embajadores de Twitch», a quienes se describe en términos vagos.

Para obtener más información, consulte nuestra reseña vinculada a continuación: https://bit.ly/4a9FaFz

Twitter tiene una calificación X: Apple y Google están de acuerdo con eso

El año pasado, Twitter (ahora llamado X) anunció que eliminar el material de abuso sexual infantil era su prioridad #1. Desde entonces, han disuelto su equipo de confianza y seguridad y, a partir de esta semana, ahora permiten que las comunidades muestren contenido para adultos.

Esta es su declaración sobre el último cambio para permitir el contenido para adultos: «Creemos que los usuarios deben tener la libertad de crear, compartir y consumir material relacionado con temas sexuales, siempre que se produzca y distribuya de manera consensuada. La expresión sexual, ya sea visual o escrita, puede ser una forma legítima de expresión artística».

Moderar el contenido que dice ser «artístico» se hace mucho más difícil y la línea entre lo que está permitido y lo que no está permitido se difumina. Sabemos que esto se debe a que ya lo hemos visto antes. Twitch, una popular aplicación de transmisión en vivo, solucionó exactamente este problema en diciembre de 2023, después de permitir la desnudez artística. Luego, Twitch revocó la decisión después de solo 2 días porque su sitio estaba inundado de streamers que compartían contenido pornográfico etiquetado como «arte».

A pesar de la decisión, tanto Apple como Google mantienen Twitter en sus tiendas de aplicaciones debido a los ingresos que genera. En resumen: Twitter tiene una calificación X. Esta no es una aplicación para niños. Si quieres profundizar en lo que es Twitter y los riesgos que presenta, consulta nuestra reseña actualizada de la aplicación en la siguiente descripción: https://bit.ly/4e9xkic

What if I have more questions? How can I stay up to date?

‍
Two actions you can take!

‍

1. Subscribe to our tech trends newsletter, the PYE Download. About every 3 weeks, we’ll share what’s new, what the PYE team is up to, and a message from Chris.
2. Ask your questions in our private parent community called The Table! It’s not another Facebook group. No ads, no algorithms, no asterisks. Just honest, critical conversations and deep learning! For parents who want to “go slow” together. Become a member today!

‍