Grok y X deberían ser suspendidos de las tiendas de aplicaciones de Apple y Google, dicen los senadores demócratas

Tres senadores demócratas piden Manzana y Google suspender las aplicaciones X y Grok de sus tiendas, al menos hasta que el propietario, Elon Musk, les prohíba permitir a los usuarios crear y compartir imágenes y representaciones explícitas y no consensuadas de abuso sexual infantil.

En una carta abierta Al CEO de Apple, Tim Cook, y al CEO de Google, Sundar Pichai, el viernes, los senadores Ron Wyden de Oregón, Ed Markey de Massachusetts y Ben Ray Luján de Nuevo México dijeron que los gigantes tecnológicos deberían “eliminar inmediatamente las aplicaciones X y Grok de sus tiendas de aplicaciones hasta que el director ejecutivo de la compañía, Elon Musk, aborde estas actividades perturbadoras y probablemente ilegales”.

“Hacer la vista gorda ante el comportamiento atroz de X sería una burla a sus prácticas de moderación”, escribieron, y agregaron que no tomar medidas “socavaría sus afirmaciones en público y ante los tribunales de que sus tiendas de aplicaciones ofrecen una experiencia de usuario más segura que permitir que los usuarios descarguen aplicaciones directamente a sus teléfonos”.

xAI de Musk, el desarrollador de Grok y padre de la plataforma de redes sociales X, respondió a la solicitud de comentarios de CNBC con una respuesta automática. Google y Apple no respondieron de inmediato a las solicitudes de comentarios.

Grok y X han permitido a los usuarios generar fácilmente y compartir ampliamente contenido explícito y sexualizado “deepfake” que incluye a personas que nunca dieron permiso para que sus imágenes se usaran de esa manera. Grok también se ha utilizado para generar imágenes que denigran a las personas por su raza u origen étnico.

En un ejemplo reciente, como lo señala The Times de Londres reportado“Grok ‘desnudó digitalmente’ a una descendiente de sobrevivientes del Holocausto” después de que los usuarios solicitaron a la herramienta de inteligencia artificial que generara una imagen de ella en bikini parada afuera de Auschwitz.

Los problemas han provocado críticas generalizadas e investigaciones regulatorias por parte de gobiernos extranjeros en Europa, Malasia, Australia e India. Sin embargo, la Comisión Federal de Comercio y el Departamento de Justicia aún tienen que decir si investigarán xAI.

En 3 de eneroMusk y X emitieron declaraciones diciendo que “cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.

Apple y Google tienen directrices estrictas para los desarrolladores de aplicaciones que les exigirían impedir la carga y el intercambio de imágenes que representen abuso sexual infantil y otro contenido explícito o dañino.

Aplicaciones de mensajería y redes sociales que incluyen tumblr y Telegrama han sido suspendidos previamente por la tienda de aplicaciones de Apple por fallas al filtrar una variedad de contenido inapropiado.

El viernes X. supuestamente hecho Funciones de generación de imágenes de Grok AI disponibles para uso exclusivo de suscriptores de pago. Sin embargo, la aplicación independiente y el sitio web de Grok aún permitían a los usuarios pedirle a Grok que desnudara, sexualizara o degradara digitalmente a las personas sin obtener primero el consentimiento para usar sus fotos o clips.

CNN informó que Musk exigió las recientes actualizaciones de funciones de Grok y la relativa falta de salvaguardias. Tres empleados de xAI que trabajaron en el equipo de seguridad de la compañía anunciaron en X que se irían después de que Musk hiciera las demandas, según el informe.

En medio de la reacción, xAI dijo esta semana que había recaudado una ronda de financiación de 20.000 millones de dólares de inversores como Nvidia y Cisco Investments, así como de los patrocinadores de larga data de la compañía Musk, Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX de Abu Dhabi y Baron Capital Group.

MIRAR: XAI cierra ronda de financiación de 20.000 millones de dólares