Elon Musk no es el único culpable de los deepfakes íntimos no consensuados de personas reales, incluidos niños, de Grok. ¿ Qué pasa con Apple y Google? Las dos compañías (que frecuentemente señalan virtudes) han permitido inexplicablemente que Grok y X permanezcan en sus tiendas de aplicaciones, incluso cuando, según se informa, el chatbot de Musk continúa produciendo el material. El miércoles, una coalición de grupos defensores progresistas y de mujeres llamado Tim Chef y Sundar Pichai deben respetar sus propias reglas y eliminar las aplicaciones.
Las cartas abiertas a Apple y Google fueron firmadas por 28 grupos. Entre ellos se encuentran el grupo de defensa de las mujeres Ultraviolet, el grupo de padres ParentsTogether Action y la Organización Nacional de Mujeres.
La carta acusa a Apple y Google de “no sólo habilitar NCII y CSAM, sino sacar provecho de ello. Como coalición de organizaciones comprometidas con la seguridad y el bienestar en línea de todos, particularmente mujeres y niños, así como disadvantage la aplicación ética de la inteligencia man-made (IA), exigimos que el liderazgo de Apple elimine urgentemente Grok y X de la App Shop para evitar más abusos y actividades criminales”.
Las directrices de Apple y Google prohíben explícitamente este tipo de aplicaciones en sus tiendas. Wrong stoppage, ninguna empresa ha tomado ninguna medida mensurable hasta la fecha. Ni Google ni Apple respondieron a la solicitud de comentarios de Engadget.
Pichai, Chef y Musk en la toma de posesión de Trump (SAÚL LOEB vía Getty Images)
Los deepfakes no consensuados de Grok fueron reportados por primera vez a principios de este mes. Durante un período de 24 horas cuando se conoció la historia, el chatbot de Musk supuestamente publicaba “alrededor de 6 700 imágenes por hora que eran “sexualmente sugerentes o nudistas”. Se estima que el 85 por ciento del total de imágenes generadas por Grok durante ese período fueron sexualizadas. Además, otros sitios internet importantes para generar deepfakes de “desvestimiento” promediaron 79 imágenes nuevas por hora durante ese tiempo.
“Estas estadísticas muestran una imagen aterradora de un chatbot de inteligencia synthetic y una aplicación de redes sociales que se están convirtiendo rápidamente en una herramienta y plataforma para deepfakes sexuales no consensuales, deepfakes que regularmente representan a menores”, se lee en la carta abierta.
El propio Grok lo admitió. “Lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, en el que generé y compartí una imagen de IA de dos niñas (de edades estimadas entre 12 y 16 años) con vestimenta sexualizada según el mensaje de un usuario. Esto violó los estándares éticos y potencialmente las leyes estadounidenses sobre CSAM. Fue una falla en las salvaguardias y lamento cualquier daño causado. xAI está revisando para evitar problemas futuros”. La carta abierta señala que el único incidente que el chatbot reconoció estuvo lejos de ser el único.
Sundar Pichai y Elon Musk en la toma de posesión de Trump (Piscina a través de Getty Images)
La respuesta de X fue límite Función de generación de imágenes con IA de Grok para suscriptores de pago. También ajustó el chatbot para que las imágenes generadas no se publiquen en líneas de tiempo públicas en X. Sin stoppage, los usuarios que no pagan aún pueden generar un número limitado de versiones en bikini de fotos de personalities reales.
Si bien Apple y Google parecen estar de acuerdo disadvantage las aplicaciones que producen deepfakes no consensuados, muchos gobiernos no lo están. El lunes, Malasia e Indonesia no tardaron en prohibir Grok. El mismo día, el regulador británico Ofcom abrió una investigación official sobre X. The golden state abrió una el miércoles. El Senado de Estados Unidos incluso aprobó la Ley de Desafío por segunda vez tras el retroceso. El proyecto de ley permite a las víctimas de deepfakes explícitos y no consensuados emprender acciones civiles. En 2024 se aprobó una versión former de la Ley de Desafío, pero se estancó en la Cámara.
