Se le ha pedido a Elon Musk que tome medidas urgentes para evitar que la herramienta Grok AI de X genere imágenes indecentes y ultrafalsas de niños y mujeres.
La secretaria de Tecnología, Liz Kendall, dijo que el multimillonario tecnológico estadounidense debe intervenir después de que en los últimos días se destacaran casos de uso del sistema para crear imágenes sexualizadas de personas reales.
El regulador Ofcom ya ha pedido a X y xAI que establezcan los pasos que está tomando para cumplir con las obligaciones legales para proteger a los usuarios británicos de la plataforma de redes sociales.
Pero la intervención del ministro amenaza con abrir un nuevo frente en la guerra entre el gobierno del Reino Unido y Musk, quien ya ha arremetido contra las medidas británicas para regular las redes sociales.
“Lo que hemos estado viendo en línea en los últimos días ha sido absolutamente espantoso e inaceptable en una sociedad decente”, dijo la señora Kendall esta tarde.
‘Nadie debería tener que pasar por la terrible experiencia de ver deepfakes íntimos de sí mismo en línea.
‘No podemos permitir ni permitiremos la proliferación de estas imágenes degradantes y degradantes, que están dirigidas desproporcionadamente a mujeres y niñas.
‘X necesita ocuparse de esto con urgencia. Es absolutamente cierto que Ofcom está investigando esto con urgencia y cuenta con todo mi respaldo para tomar cualquier medida coercitiva que considere necesaria”.
Ofcom se ha “contactado urgentemente” con X y xAI por las imágenes sexualizadas de niños, algo que Grok admitió en una publicación en la plataforma de redes sociales.
Según la Ley de Seguridad en Línea del Reino Unido, las empresas de redes sociales deben prevenir y eliminar el material de abuso sexual infantil cuando tengan conocimiento de ello.
La ley también prohíbe el uso de IA para generar imágenes pornográficas, también conocidas como deepfakes, de personas sin su consentimiento.
Pero los usuarios de X han destacado casos en los últimos días en los que Grok ha manipulado imágenes inocentes de mujeres y niñas actrices después de que los usuarios solicitaran alterar o quitarse la ropa digitalmente.
Kendall dijo que los esfuerzos para frenar la propagación de deepfakes sexualizados no eran un intento de restringir la libertad de expresión.
La administración estadounidense de Donald Trump ha criticado a los reguladores europeos por intentar regular lo que aparece en línea en las plataformas estadounidenses.
Pero la señora Kendall afirmó: “Los servicios y operadores tienen la clara obligación de actuar de forma adecuada”. No se trata de restringir la libertad de expresión sino de hacer cumplir la ley.
‘Hemos tipificado como delitos prioritarios el abuso de imágenes íntimas y la exhibición cibernética según la Ley de Seguridad en Línea, incluso cuando las imágenes son generadas por IA. Esto significa que las plataformas deben evitar que dicho contenido aparezca en línea y actuar con rapidez para eliminarlo si aparece.
‘La violencia contra las mujeres y las niñas mancha nuestra sociedad, y es por eso que también hemos legislado para prohibir la creación de deepfakes explícitos sin consentimiento, que son a la vez degradantes y dañinos.
‘No se equivoquen: el Reino Unido no tolerará la interminable proliferación de material repugnante y abusivo en línea. Debemos unirnos todos para erradicarlo”.
Ofcom ha hecho un “contacto urgente” con la plataforma de redes sociales X de Elon Musk después de serias preocupaciones de que su herramienta de inteligencia artificial Grok pueda generar “imágenes sexualizadas de niños”.
Una publicación en la cuenta de Grok X admitió esto y decía: “casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con ropa mínima”.
Únete al debate
¿Cómo deberían responsabilizarse a los gigantes tecnológicos cuando su IA crea imágenes potencialmente dañinas?
Elon Musk parece estar al tanto de la tecnología que se utiliza para desnudar a la gente después de que publicó una foto suya en bikini con emojis de risa.
Añadió: “xAI tiene salvaguardias, pero se están realizando mejoras para bloquear dichas solicitudes por completo”.
Ofcom se ha puesto en contacto con X urgentemente para ver qué podrían significar estas mejoras y cómo X y xAI protegerán a los usuarios de la plataforma de redes sociales en el Reino Unido, pero aún no han abierto una investigación.
Un portavoz del regulador dijo: ‘Abordar los daños ilegales en línea y proteger a los niños siguen siendo prioridades urgentes para Ofcom.
‘Somos conscientes de las serias preocupaciones planteadas por una función de Grok en X que produce imágenes de personas desnudas e imágenes sexualizadas de niños.
‘Hemos establecido contacto urgente con X y xAI para comprender qué medidas han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido.
“Basándonos en su respuesta, llevaremos a cabo una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”.
Cuando se le solicitó un comentario sobre las imágenes sexualizadas de niños en la plataforma, xAI respondió con un correo electrónico generado automáticamente que decía “mentiras de los medios heredados”.
Elon Musk parece ser consciente de la tecnología que se utiliza para desnudar a las personas, ya que publicó una imagen generada de sí mismo en bikini.
La publicación original de esto parece haber sido eliminada, pero volvió a publicar la respuesta de otro usuario con emojis de risa.
El director ejecutivo de Internet Watch Foundation, Kerry Smith, dijo: ‘La IWF ha recibido una serie de informes del público relacionados con imágenes sospechosas de abuso sexual infantil en X generadas por el chatbot de IA Grok.
“Aún estamos trabajando en estos informes pero, hasta el momento, no hemos visto ninguna imagen que cruce el umbral legal para ser considerada abuso sexual infantil en el Reino Unido”.
Instó al Gobierno a exigir a las empresas de IA que incorporen medidas de seguridad en sus productos para evitar contenidos nocivos.
Un portavoz del Ministerio del Interior dijo: “Estamos legislando para prohibir las herramientas de nudificación en todas sus formas, incluido el uso de modelos de IA para este fin.
‘El abuso de la imagen íntima es un delito devastador que afecta desproporcionadamente a mujeres y niñas.
“Según este nuevo delito penal, cualquier individuo o empresa que diseñe o suministre estas herramientas de nudificación se enfrentará a una pena de prisión y multas sustanciales”.
