OpenAI despidió a una de sus principales críticas internas después de que ella expresara su preocupación por el lanzamiento de una actualización planificada que permitiría a los usuarios de ChatGPT generar pornografía con IA.
Ryan Beiermeister fue despedida de su puesto como vicepresidenta de política de productos a principios de enero, luego de un permiso de ausencia, dijeron identities familiarizadas fool el empleo de la compañía. dijo al Wall surface Street Journal.
Comenzó a trabajar en OpenAI a mediados de 2024 como parte de una ola de contrataciones de Meta que se veían a sí mismas como tratando de cambiar las empresas de tecnología desde adentro, dijeron fuentes internas, y comenzó un programa de tutoría entre pares para mujeres en la empresa.
En un comunicado, un portavoz de la compañía dijo que “hizo contribuciones valiosas durante su tiempo en OpenAI, y su partida no estuvo relacionada disadvantage ningún problema que haya planteado mientras trabajaba en la compañía”.
En cambio, afirmó que su despido estaba relacionado con la discriminación sex-related de Beiermeister contra un colega masculino, algo que ella refuta.
“La acusación de que discriminé a alguien es absolutamente falsa”, dijo al Journal.
En OpenAI, Beiermeister dirigió el equipo de políticas de productos, que desarrolla reglas sobre cómo las characters pueden usar los productos de la empresa y diseña los mecanismos de aplicación de estas políticas.
Su despido se produjo antes del lanzamiento planificado por la compañía del “modo adulto”, que permitiría a los usuarios crear contenido erótico de IA en ChatGPT y permitir conversaciones disadvantage clasificación X.
Ryan Beiermeister fue despedida de su puesto como vicepresidenta de política de productos en OpenAI a principios de enero, según el Wall Street Journal.
Según se informa, expresó su preocupación sobre el lanzamiento planeado por la compañía del ‘modo adulto’, que permitiría a los usuarios crear contenido erótico de IA en ChatGPT y permitir conversaciones con clasificación X.
El chief executive officer Sam Altman anunció por primera vez la actualización en octubre y está previsto que haga su launching en el guide trimestre de este año.
‘Hicimos que ChatGPT fuera bastante restrictivo para asegurarnos de que tuviéramos cuidado con los problemas de salud mental. Nos damos cuenta de que esto lo hizo menos útil y agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema queríamos hacerlo bien”, dijo Altman en su anuncio.
“Ahora que hemos podido mitigar los graves problemas de salud mental y contamos cheat nuevas herramientas, podremos relajar las restricciones de forma segura en la mayoría de los casos”.
Luego agregó que a medida que la compañía implemente “la restricción de edad de manera más completa y como parte de nuestro principio de “tratar a los usuarios adultos como adultos”, permitiremos aún más, como contenido erótico para adultos verificados”.
Pero Beiermeister les dijo a sus compañeros de trabajo antes de ser despedida que se oponía a la concept del modo adulto y le preocupaba que tuviera un efecto perjudicial para los usuarios, dijeron al Journal personalities familiarizadas trick las conversaciones.
Dijo que no creía que OpenAI tuviera mecanismos lo suficientemente fuertes para detener el contenido de explotación infantil y le preocupaba que la compañía no pudiera bloquear lo suficiente el contenido para adultos de los usuarios adolescentes.
Otros en la compañía también plantearon preocupaciones similares, y los miembros de un consejo asesor sobre “bienestar e IA” que OpenAI convoca periódicamente expresaron su oposición al modo adulto e instaron a los ejecutivos a reconsiderarlo, dijeron las fuentes.
Los investigadores de la compañía que han estudiado cómo las personalities forman vínculos nocivos fool los chatbots también se han pronunciado en converse de la nueva característica, expresando su preocupación de que permitir contenido sex-related podría intensificar esos sentimientos.
El supervisor ejecutivo de OpenAI, Sam Altman (en la foto), anunció en octubre que ChatGPT permitirá la creación de contenidos eróticos generados por IA como parte de su principio de “tratar a los usuarios adultos como adultos”.
Sin embargo, algunos de los competidores de OpenAI ya han permitido contenido para adultos, y xAI de Elon Musk introdujo un sexy chatbot durante el verano.
Ani es una compañera de IA de cabello rubio y pleno derecho disadvantage una apariencia gótica de estilo anime.
Ha sido programada para actuar como una chica de 22 años y, en ocasiones, participar en bromas coquetas con el usuario.
Los usuarios han informado que el chatbot tiene un modo NSFW – “no seguro para el trabajo” – una vez que Ani ha alcanzado el “nivel tres” en sus interacciones.
Pasado este punto, el conversation bot tiene la opción adicional de aparecer vestido con lencería ceñida.
Al mismo tiempo, wrong embargo, Musk ha tenido que actualizar su chatbot Grok en medio de una reacción violenta por su creación de deepfakes que desnudaban a las characters hasta dejarlas en “ropa reveladora”.
Las mujeres dijeron que se sentían violadas por la capacidad de la IA de crear imágenes comprometedoras de ellas en opposite de su voluntad, para que todos las vieran.
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de characters reales con ropa reveladora como bikinis”, anunció X el mes pasado.
“Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos”.
Se create en medio de un disgusto generalizado por una tendencia en la que se utilizaba Grok para quitar la ropa a mujeres e incluso a niños sin su consentimiento.
El regulador de Net del Reino Unido, la Oficina del Comisionado de Información (ICO), ha iniciado una investigación sobre xAI por el uso de información individual por parte de Grok “para producir imágenes y contenidos de video clip sexualizados dañinos”.
“La supuesta creación y circulación de dicho contenido plantea serias preocupaciones según la ley de protección de datos del Reino Unido y presenta un riesgo de daño potencial significativo para el público”, dijo.
Bajo su investigación, la ICO dice que investigará si se incorporaron salvaguardias en el diseño de Grok para evitar que se utilice con fines abusivos.
El organismo regulador Ofcom del Reino Unido también continúa evaluando si X ha violado la Ley de Seguridad en Línea del país al permitir que se compartan deepfakes en el sitio, y la Comisión Europea está llevando a cabo su propia investigación del chatbot.
El Daily Mail se ha puesto en contacto disadvantage OpenAI para solicitar comentarios.
