Meta dijo hoy que está pausando el acceso de los adolescentes a sus personajes de IA a nivel mundial en todas sus aplicaciones. La compañía mencionó que no abandonará sus esfuerzos, pero quiere desarrollar una versión especial de un personaje de IA para adolescentes, dijo la compañía en exclusiva a TechCrunch.
La medida se produce días antes de que se inicie un juicio contra Meta en Nuevo México, en el que se acusa a la compañía de falta de esfuerzo para proteger a los niños de la explotación sexual en sus aplicaciones. cableado informó el jueves que Meta ha tratado de limitar los descubrimientos relacionados con el impacto de las redes sociales en la salud mental de los adolescentes, junto con historias
En octubre, Meta lanzó nuevas funciones de control parental, centrándose en adaptar la experiencia de los adolescentes al interactuar con la IA en sus aplicaciones. Estas nuevas funciones, que se inspiraron en la clasificación de películas PG-13, restringieron el acceso de los adolescentes a ciertos temas como violencia extrema, desnudez y uso gráfico de drogas.
Días después, la compañía también presentó una vista previa de los controles para los personajes de IA, lo que permitirá a los padres y tutores monitorear temas y bloquear el acceso a ciertos personajes. Meta dijo que en ese momento los padres también podrían desactivar completamente los chats con personajes de IA. Estas funciones estaban programadas para lanzarse este año, pero Meta ahora está adoptando un enfoque más estricto para desactivar por completo los personajes de IA. Meta dijo que escuchó de los padres que querían más información y control sobre las interacciones de sus hijos adolescentes con los personajes de IA, y decidió pausar el acceso.
“A partir de las próximas semanas, los adolescentes ya no podrán acceder a los personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté lista. Esto se aplicará a cualquiera que nos haya dado un cumpleaños de adolescente, así como a las personas que dicen ser adultos pero que sospechamos que son adolescentes según nuestra tecnología de predicción de edad”, dijo la compañía en una publicación de blog actualizada.
Meta agregó que cuando finalmente lance los nuevos personajes de IA específicos para adolescentes, tendrán controles parentales integrados. La compañía dijo que los nuevos personajes darán respuestas apropiadas para su edad y se ceñirán a temas como educación, deportes y pasatiempos.
Las empresas de redes sociales están bajo un intenso escrutinio por parte de los reguladores. Además del caso antes mencionado en Nuevo México, Meta también se enfrenta a un juicio la próxima semana, acusando a la plataforma de causar adicción a las redes sociales. Se espera que el director ejecutivo Mark Zuckerberg suba al estrado en ese caso una vez que comience el juicio.
Además de las plataformas sociales, las empresas de inteligencia artificial han tenido que modificar su experiencia para los adolescentes después de enfrentar demandas que alegan participar en la autolesión. En octubre, Character.AI, la startup que permite a los usuarios chatear con varios avatares de IA, prohibió las conversaciones abiertas con chatbots para usuarios menores de 18 años. En noviembre, la startup dijo que crearía historias interactivas para niños. En los últimos meses, OpenAI agregó nuevas reglas de seguridad para adolescentes para ChatGPT y también comenzó a predecir la edad de un usuario para aplicar restricciones de contenido.
