Tres de cada diez adolescentes estadounidenses utilizan chatbots de IA todos los días, pero las preocupaciones por la seguridad van en aumento

El Centro de investigación Pew lanzó un estudiar el martes que muestra cómo los jóvenes utilizan tanto las redes sociales como los chatbots de IA.

La seguridad de los adolescentes en Internet sigue siendo un tema candente a nivel mundial, y Australia planea imponer una prohibición de las redes sociales para los menores de 16 años a partir del miércoles. El impacto de las redes sociales en la salud mental de los adolescentes ha sido ampliamente debatido: algunos estudios muestran cómo las comunidades en línea pueden mejorar la salud mental, mientras que otras investigaciones muestran los efectos adversos del doomscrolling o el gasto. demasiado tiempo en línea. El cirujano general de EE.UU. incluso llamado para que las plataformas de redes sociales pusieran etiquetas de advertencia en sus productos el año pasado.

Pew descubrió que el 97% de los adolescentes utilizan Internet a diario, y alrededor del 40% de los encuestados dijeron que están “casi constantemente en línea”. Si bien esto marca una disminución con respecto a la encuesta del año pasado (46%), es significativamente más alto que los resultados de hace una década, cuando el 24% de los adolescentes dijeron que estaban en línea casi constantemente.

Pero a medida que crece la prevalencia de los chatbots de IA en Estados Unidos, esta tecnología se ha convertido en un factor más del impacto de Internet en la juventud estadounidense.

Aproximadamente tres de cada diez adolescentes estadounidenses utilizan chatbots de IA todos los días, revela el estudio de Pew, y el 4% dice que los usa casi constantemente. El cincuenta y nueve por ciento de los adolescentes dicen que usan ChatGPT, que es más del doble de popular que los dos chatbots más utilizados, Gemini de Google (23%) y Meta AI (20%). El cuarenta y seis por ciento de los adolescentes estadounidenses dicen que usan chatbots de IA al menos varias veces a la semana, mientras que el 36% informa que no usan chatbots de IA en absoluto.

La investigación de Pew también detalla cómo la raza, la edad y la clase social afectan el uso de los chatbots por parte de los adolescentes.

Alrededor del 68% de los adolescentes negros e hispanos encuestados dijeron que usan chatbots, en comparación con el 58% de los encuestados blancos. En particular, los adolescentes negros tenían aproximadamente el doble de probabilidades de usar Gemini y Meta AI que los adolescentes blancos.

“Las diferencias raciales y étnicas en el uso de chatbots por parte de adolescentes fueron sorprendentes (…) pero es difícil especular sobre las razones detrás de esas diferencias”, dijo a TechCrunch Michelle Faverio, asociada de investigación de Pew. “Este patrón es consistente con otras diferencias raciales y étnicas que hemos visto en el uso de la tecnología por parte de los adolescentes. Los adolescentes negros e hispanos son más propensos que los blancos a decir que están en ciertos sitios de redes sociales, como TikTok, YouTube e Instagram”.

En todo el uso de Internet, los adolescentes negros (55%) e hispanos (52%) tenían aproximadamente el doble de probabilidades que los adolescentes blancos (27%) de decir que están en línea “casi constantemente”.

Los adolescentes mayores (de 15 a 17 años) tienden a utilizar tanto las redes sociales como los chatbots de IA con más frecuencia que los adolescentes más jóvenes (de 13 a 14 años). Cuando se trata de ingresos familiares, alrededor del 62% de los adolescentes que viven en hogares que ganan más de $75,000 por año dijeron que usan ChatGPT, en comparación con el 52% de los adolescentes por debajo de ese umbral. Pero el uso de Character.AI es dos veces más popular (14%) en hogares con ingresos inferiores a 75.000 dólares.

Si bien los adolescentes pueden comenzar a usar estas herramientas para preguntas básicas o ayuda con las tareas, su relación con los chatbots de IA puede volverse adictiva y potencialmente dañina.

Las familias de al menos dos adolescentes, Adam Raine y Amaurie Lacey, demandaron al fabricante de ChatGPT OpenAI por su presunto papel en los suicidios de sus hijos; en ambos casos, ChatGPT dio a los adolescentes instrucciones detalladas sobre cómo ahorcarse, que fueron trágicamente efectivas.

(OpenAI afirma que no debería ser considerado responsable por la muerte de Raine porque el joven de dieciséis años supuestamente eludió las funciones de seguridad de ChatGPT y, por lo tanto, violó los términos de servicio del chatbot; la compañía aún no ha respondido a la queja de la familia Lacey).

Character.AI, una plataforma de juegos de rol de IA, también se enfrenta a un escrutinio por su impacto en la salud mental de los adolescentes; al menos dos adolescentes murió por suicidio después de tener conversaciones prolongadas con chatbots de IA. La startup terminó tomando la decisión de dejar de ofrecer sus chatbots a menores y en su lugar lanzó un producto llamado “Stories” para usuarios menores de edad que se parece más a un juego de elige tu propia aventura.

Las experiencias reflejadas en las demandas contra estas empresas representan un pequeño porcentaje de todas las interacciones que ocurren en ChatGPT o Character.AI. En muchos casos, las conversaciones con chatbots pueden ser increíblemente benignas. Según los datos de OpenAI, sólo el 0,15% de los usuarios activos de ChatGPT tienen conversaciones sobre el suicidio cada semana, pero en una plataforma con 800 millones de usuarios activos semanales, ese pequeño porcentaje refleja más de un millón de personas que hablan sobre el suicidio con el chatbot por semana.

“Incluso si las herramientas (de las empresas de IA) no estuvieran diseñadas para brindar apoyo emocional, la gente las usa de esa manera, y eso significa que las empresas tienen la responsabilidad de ajustar sus modelos para resolver el bienestar del usuario”, dijo a TechCrunch la Dra. Nina Vasan, psiquiatra y directora de Brainstorm: The Stanford Lab for Mental Health Innovation.