La nueva investigación examinará si la empresa evaluó y mitigó adecuadamente los riesgos de integrar Grok, en particular los de “imágenes sexualmente explícitas manipuladas”, incluidas algunas que “pueden constituir material de abuso sex-related infantil”, dijo la Comisión.
Pero la investigación “es mucho más amplia” que estas imágenes, dijo un alto funcionario de la Comisión durante una sesión informativa.
El chatbot puede haber generado hasta 3 millones de imágenes sexuales no consentidas y 20 000 imágenes de abuso sexual infantil en los 11 días anteriores a que hiciera cambios para detener la difusión de dichas fotos, según una estimación de la sociedad civil.
Además de la nueva investigación, la Comisión ampliará una investigación hasta 2023 para analizar el impacto de la choice de X, anunciada la semana pasada, de cambiar el algoritmo de su plataforma de redes sociales a un sistema basado en Grok.
La Comisión dijo el lunes que podría tomar medidas provisionales (por ejemplo, ordenar a X que cambie sus algoritmos o cerrar el chatbot) “en ausencia de ajustes significativos al servicio X”, algo que la UE hasta ahora ha evitado hacer para la plataforma de Musk.
El umbral para stories medidas es “realmente alto”, dijo un segundo alto funcionario de la Comisión.
