Elon Musk y el logo de xAI.
Vicente Feuray | afp | Imágenes falsas
X de Elon Musk está siendo investigado por autoridades de Europa, India y Malasia después de que su chatbot Grok permitiera a los usuarios crear y compartir imágenes sexualizadas de niños y mujeres generadas por IA.
El organismo de control de medios británico Ofcom también dicho Se solicita información a X, que es propiedad de xAI, sobre los problemas de Grok. Y el domingo, una miembro del parlamento de Brasil dijo en las redes sociales que había pedido al fiscal federal y a la autoridad de protección de datos del país que suspendieran el uso de Grok hasta que se complete una investigación.
Las investigaciones siguen a un aumento global en las últimas semanas en el uso de Grok para crear y compartir imágenes íntimas no consensuadas, o NCII, derivadas de fotografías o videos de personas reales en respuesta a las indicaciones de los usuarios. Las imágenes preocupantes han sido ampliamente compartidas en X.
La compañía de Musk actualizó recientemente sus funciones Grok Imagine, lo que permite una generación de imágenes más sencilla a partir de indicaciones basadas en texto en la plataforma.
Mientras que los expertos en seguridad y los críticos de tecnología denunciaron la proliferación de imágenes y clips de explotación en X, Musk pareció burlarse de la situación al compartir una serie de imágenes generadas por Grok, incluida una que lo representa a sí mismo en bikini, marcada por emojis de risa y llanto.
en un conferencia de prensa El lunes, el portavoz de la Comisión Europea, Thomas Regnier, dijo que la autoridad estaba “investigando muy seriamente este asunto” y que era “muy consciente” de que X y Grok “ahora ofrecían un modo picante que mostraba contenido sexual explícito con algunos resultados generados con imágenes infantiles”.
“Esto no es ‘picante'”, dijo Regnier. “Esto es ilegal. Esto es espantoso. Esto es repugnante. Así es como lo vemos, y esto no tiene cabida en Europa”.
A fines de la semana pasada, el Ministerio de Electrónica y Tecnología de la Información de la India ordenó a X que llevara a cabo una “revisión técnica, de procedimiento y de gobernanza integral” de Grok. La empresa tuvo hasta el 5 de enero para cumplir.
La Comisión de Comunicaciones y Multimedia de Malasia dicho durante el fin de semana que está investigando X y llamará a representantes de la empresa.
“MCMC insta a todas las plataformas accesibles en Malasia a implementar salvaguardias alineadas con las leyes de Malasia y los estándares de seguridad en línea, especialmente en relación con sus funciones impulsadas por inteligencia artificial, chatbots y herramientas de manipulación de imágenes”, dijo el grupo en un comunicado.
Mientras tanto, en Estados Unidos, el Centro Nacional sobre Explotación Sexual (NCOSE) pidió al Departamento de Justicia y a la Comisión Federal de Comercio que investiguen el asunto en una entrevista con CNBC. Dani Pinter, director jurídico y director del Centro Legal de NCOSE, dijo que “no hay muchos precedentes legales sobre estas cuestiones específicas”.
Sin embargo, dijo que las leyes federales prohíben la creación y distribución de materiales de abuso sexual infantil, o CSAM, y que pueden aplicarse a contenido creado virtualmente “cuando representa a un niño identificable, o representa a un niño involucrado en una conducta sexual explícita”.
Esas leyes incluyen la Ley Take It Down, que fue respaldada por la Primera Dama Melania Trump antes de su promulgación el año pasado.
El Departamento de Justicia no respondió a una solicitud de comentarios. La FTC se negó a hacer comentarios. XAI no proporcionó ningún comentario más allá de una respuesta automática.
La empresa de redes sociales de Musk hizo su primera declaración pública sobre el asunto el sábado en una publicación en la cuenta oficial de X Safety.
“Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo cuentas permanentemente y trabajando con los gobiernos locales y las autoridades según sea necesario”, escribió la compañía.
Musk escribió, en un publicación separada en X, “Cualquier persona que use o solicite a Grok que cree contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
Al día siguiente, un empleado de xAI llamado Ethan He escribió en una publicación en X que Grok Imagine se actualizó, pero no especificó ningún cambio con respecto a la capacidad de crear imágenes explícitas dañinas.
Musk y X tienen un historial de permitir que los usuarios que crearon publicaciones que muestran explotación sexual infantil permanezcan en la plataforma.
En 2023, X suspendió brevemente y luego restableció la cuenta de un usuario llamado Dom Lucre después de que publicara “imágenes de explotación infantil asociadas con la condena penal de un australiano en Filipinas”. Mashable informó. Musk dijo en ese momento que X decidió eliminar las publicaciones ofensivas de Lucre pero reincorporar al influencer de derecha a la plataforma. Lucre actualmente tiene una cuenta monetizada en X con 1,6 millones de seguidores.
Tom Quisel, director ejecutivo de Musubi AI, que ayuda a las redes sociales y a las empresas de inteligencia artificial a automatizar la moderación de contenido utilizando IA, dijo que parecía que xAI no había logrado construir ni siquiera “capas de confianza y seguridad de nivel básico” en el lanzamiento de Grok Imagine to X.
Quisel dijo que sería fácil para una empresa como xAI hacer que su modelo detecte y bloquee “una imagen que involucre niños o desnudez parcial”, o rechazar las indicaciones de los usuarios para que coloquen al sujeto de una foto con atuendos sexualmente sugerentes.
La controversia no ha hecho nada para dañar el tráfico de X.
Según Apptopia, que rastrea las tendencias de las aplicaciones móviles, las descargas diarias de Grok han aumentado un 54% desde el 2 de enero, mientras que las descargas diarias de X han aumentado un 25% en los últimos tres días.
MIRAR: Elon Musk critica a la UE tras la multa impuesta a X
