Las redes sociales nunca han sido elogiadas por su realismo, pero el engaño en línea está alcanzando un punto álgido.
Desde el inicio de plataformas como Facebook, Instagram y TikTok, el contenido aspiracional ha inundado nuestros feeds con cuerpos demasiado perfectoshogares y estilos de vida. A pesar del supuesto objetivo de las redes sociales de mantenernos conectados, conectarse cada vez se siente más aislado y alejado de la realidad. pendiente de respaldo y los deepfakes lo están empeorando infinitamente.
El surgimiento de herramientas de IA generativa como Sora de OpenAI, Veo y Midjourney de Google han facilitado la creación de vídeos que son a la vez extraordinarios, imaginativos y engañosos. De repente, un simple mensaje de texto puede evocar cualquier cosa que se te ocurra. Es una maravilla tecnológica y, a menudo, una pesadilla ética.
No se pierda ninguno de nuestro contenido tecnológico imparcial y reseñas de laboratorio. Añadir CNET como fuente preferida de Google.
La caída de la IA se refiere al aluvión interminable de contenido digital de baja calidad creado con inteligencia artificial. Probablemente hayas visto ejemplos de esto en tus redes sociales, desde videos de animales que exhiben características extrañamente humanas hasta bromas y chistes que parecen desafiar las leyes de la física. Además, deepfakes de figuras públicas, tanto vivos como muertos, decir y hacer cosas que en realidad nunca sucedieron se han vuelto candentes, y contencioso — producto.
No es sólo una IA de mala calidad la que está disminuyendo la experiencia en línea. Filtrar mentiras más convincentes sobre personas, lugares y acontecimientos exige más vigilancia que nunca y es absolutamente agotador.
De la conexión humana a la adicción a las plataformas
Desde el lanzamiento de Aplicación Sora de OpenAI En septiembre, me pregunté por qué alguien querría desplazarse por un feed compuesto únicamente por momentos artificiales. Incluso las plataformas sociales más “tradicionales”, como Instagram y TikTok, se han visto inundadas de contenido de IA que aparentemente no tiene ningún propósito real, más allá de demostrar las imágenes sorprendentemente realistas que las herramientas de IA ahora pueden evocar en un instante.
¿No es el objetivo de las redes sociales estar en contacto con personas que conoces y seguir a figuras públicas que te interesan? ¿Ese objetivo fundamental está oficialmente muerto?
“La respuesta cínica es que las redes sociales ahora tienen como objetivo mantenerlos conectados con la herramienta, en lugar de entre sí”, dijo Alexios Mantzarlis, director de la Iniciativa de Seguridad, Confianza y Protección de Cornell Tech.
Los gigantes tecnológicos están “haciendo subir el precio de sus acciones” al mostrar sus capacidades de inteligencia artificial, dijo, pero “lo hacen a expensas de la experiencia en estas plataformas”.
De hecho, esa artificialidad intensificada choca con la autenticidad que muchos de nosotros buscamos y cada vez más nos cuesta encontrar en línea. Una de las razones por las que me enamoré de TikTok hace años es que es Es más fácil encontrar contenido más genuino y sin filtrar. — un bienvenido alivio de las publicaciones de influencers demasiado pulidas que inundan mi cuenta de Instagram, aunque cada vez veo más de eso también en TikTok.
Incluso antes del auge de la IA generativa, las actualizaciones de Instagram de amigos y familiares han sido suplantadas en gran medida por contenido de creadores de alto perfil que no sigo. Eso no siempre es malo, ya que a menudo me expone a temas que quiero ver más. Ese enfoque en los intereses de los usuarios es lo que hace que el algoritmo de TikTok en particular sea tan poderoso (y adictivo). Pero me hace sentir aún más desconectado de la gente que realmente conozco, especialmente porque la gente común y corriente está aparentemente publicando menos hoy en día.
Si se incluye la IA en esa ecuación, cualquier apariencia de autenticidad se desvanecerá. Ahora, además de luchar contra los sentimientos de inseguridad al ver imágenes retocadas de personas reales, también puedes tropezar con Fotos de vacaciones totalmente generadas por IA.o encontrarse con un influencia de la IA que amplifica estándares de belleza inalcanzables.
“Antes teníamos el problema de las expectativas corporales poco realistas”, dijo Mantzarlis. “Y ahora nos enfrentamos al mundo de irreal expectativas corporales.”
Cada vez es más difícil para la gente separar la realidad de la ficción, pero la difusión de basura y deepfakes no se está desacelerando. El tiempo corre para que las plataformas regulen esta nueva ola de contenido antes de que ahogue nuestro sentido de la realidad.
Frenar el daño de la IA
Empresas de redes sociales como Meta y TikTok se han comprometido a etiquetar el contenido generado por IA y prohibir publicaciones dañinas, como eventos de crisis falsos o el uso de imágenes de personas privadas sin su permiso. El miércoles, TikTok dijo que comenzará a probar un nuevo control para que las personas elige cuánto contenido generado por IA quieren ver en sus feeds.
Pero en ausencia de regulación gubernamental -que está rezagada debido a factores como estancamiento político encima cómo para regular la IA, lobby de empresas tecnológicas (Meta lanzó recientemente un súper PAC para hacer retroceder las leyes de IA) y el rápido ritmo al que está evolucionando la tecnología: depende de las empresas defender sus propias políticas. Es cierto que puede ser complicado para los sitios marcar todo dado el gran volumen de contenido, pero hasta ahora, sus esfuerzos superficiales no parecen muy prometedores.
Esa falta de regulación puede magnificar la desconfianza y la discordia en línea. un agosto estudio de raptivouna empresa de medios que trabaja con creadores digitales, descubrió que cuando las personas simplemente sospechaban que el contenido había sido generado por IA, instintivamente se distanciaban de él. Específicamente, el 48% de los encuestados encontró que el contenido era menos confiable, mientras que el 60% dijo que sentía una menor conexión emocional con él.
Pero dado que el contenido creado por personas influyentes domina la mayoría de las plataformas sociales en estos días, la IA se puede comercializar como una forma de simplificar un proceso que tradicionalmente requiere mucho tiempo.
“Las herramientas de inteligencia artificial facilitan que más personas sean creadores”, dijo Paul Bannister, director de estrategia de Raptive. “Aumenta la huella de quién puede ser creador mucho más rápido”.
Charlar con Bannister ayudó a compensar una poco de mi escepticismo; Me recordó que “como cualquier tecnología nueva, siempre hay buenos y malos usos”. Además del deterioro de la IA, señaló, todavía hay creatividad humana detrás del (a menudo ridículo) contenido de IA que vemos en línea.
“Habrá mucha basura, obstáculos en el camino y problemas, pero tal vez esto pueda crear nuevas formas asombrosas de intercambio de información y entretenimiento”, dijo Bannister. “Todavía hay tanta basura fluyendo por el sistema que no sabemos cuál será el resultado”.
Hay otra cara de lo que la IA es capaz de hacer: “Será utilizada para exacerbar aún más las tensiones, para confirmar los prejuicios preexistentes de la gente”, dijo Mantzarlis.
Las redes sociales ya son una cámara de resonancia para reafirmar los puntos de vista dañinos y cerrados de las personas y difundir rápidamente información errónea. No estoy seguro de que estemos preparados para lo peor que puede llegar a ser cuando todos tienen el poder de fabricar fácilmente su propia realidad y compartirla con el mundo. La fractura de la sociedad sólo va a mostrar grietas más amplias.
En todo caso, agradecería que más plataformas tomaran una página del libro de Pinterest y nos dieran la opción de Reduzca la cantidad de IA que vemos en nuestros feeds. Aunque tuviera la opción, lo reduciría hasta cero.
