Liv Mc Mahonreportero de tecnología
Imágenes falsasEl gobierno del Reino Unido dice que prohibirá las llamadas aplicaciones de “nudificación” como parte de sus esfuerzos para abordar la misoginia en línea.
Nuevas leyes -anunciadas el jueves como parte de una Estrategia más amplia para reducir a la mitad la violencia contra las mujeres y las niñas. – hará que sea ilegal crear y suministrar herramientas de inteligencia artificial que permitan a los usuarios editar imágenes para aparentemente quitarle la ropa a alguien.
Los nuevos delitos se basarían en las normas existentes sobre deepfakes sexualmente explícitos y abuso de imágenes íntimas, dijo el gobierno.
“Las mujeres y las niñas merecen estar seguras tanto en línea como fuera de línea”, dijo la Secretaria de Tecnología, Liz Kendall.
“No nos quedaremos quietos mientras la tecnología se utiliza como arma para abusar de ellos, humillarlos y explotarlos mediante la creación de deepfakes sexualmente explícitos no consensuales”.
Crear imágenes explícitas deepfake de alguien sin su consentimiento ya es un delito según la Ley de Seguridad en Línea.
Kendall dijo que el nuevo delito, que convierte en ilegal la creación o distribución de aplicaciones nudistas, significaría que “aquellos que se beneficien de ellas o permitan su uso sentirán toda la fuerza de la ley”.
Las aplicaciones de nudificación o “desnudo” utilizan IA generativa para hacer que parezca realista que una persona ha sido despojada de su ropa en una imagen o video.
Los expertos han advertido sobre el auge de este tipo de aplicaciones y el potencial de que las imágenes de desnudos falsos inflijan daños graves a las víctimas, especialmente cuando se utilizan para crear material de abuso sexual infantil (CSAM).
En abril, la Comisaria de la Infancia de Inglaterra, Dame Rachel de Souza pidió una prohibición total de las aplicaciones de nudificación.
“El acto de crear una imagen así es legítimamente ilegal; la tecnología que permite hacerlo también debería serlo.” ella dijo en un informe.
El gobierno dijo el jueves que “unirá fuerzas con empresas de tecnología” para desarrollar métodos para combatir el abuso de imágenes íntimas.
Esto incluiría continuar su trabajo con la empresa británica de tecnología de seguridad SafeToNet, dijo.
La empresa británica desarrolló un software de inteligencia artificial que, según afirma, podría identificar y bloquear contenido sexual, así como bloquear cámaras cuando detecten que se está capturando contenido sexual.
Esta tecnología se basa en filtros existentes implementados por plataformas como Meta para detectar y señalar posibles desnudos en las imágenes, a menudo con el objetivo de evitar que los niños tomen o compartan imágenes íntimas de sí mismos.
‘No hay razón para existir’
Los planes para prohibir las aplicaciones nudistas surgen después de llamados anteriores de organizaciones benéficas de protección infantil para que el gobierno tome medidas enérgicas contra la tecnología.
La Internet Watch Foundation (IWF), cuya línea de ayuda Report Remove permite a los menores de 18 años informar confidencialmente sobre imágenes explícitas de ellos mismos en línea, dijo que el 19% de los reporteros confirmados habían dicho que algunas o todas sus imágenes habían sido manipuladas.
Su director ejecutivo, Kerry Smith, acogió con satisfacción las medidas.
“También nos alegra ver medidas concretas para prohibir las llamadas aplicaciones de nudificación, que no tienen ninguna razón para existir como producto”, afirmó.
“Aplicaciones como esta exponen a niños reales a un riesgo aún mayor de sufrir daños, y vemos que las imágenes producidas se recopilan en algunos de los rincones más oscuros de Internet”.
Sin embargo, aunque la organización benéfica para niños NSPCC acogió con agrado la noticia, su directora de estrategia, la Dra. Maria Neophytou, dijo que estaba “decepcionada” al no ver una “ambición” similar para introducir protecciones obligatorias a nivel de dispositivo.
La organización benéfica se encuentra entre las organizaciones que piden al gobierno que haga que las empresas de tecnología encuentren formas más fáciles de identificar y prevenir la propagación de CSAM en sus servicios, como en mensajes privados.
El gobierno dijo el jueves que haría “imposible” que los niños tomaran, compartieran o vieran una imagen de desnudos en sus teléfonos.
También busca prohibir las herramientas de inteligencia artificial. diseñado para crear o distribuir CSAM.
