Google Threat Intelligence Group y Mandiant informan de un cambio crítico en el panorama de las amenazas cibernéticas a medida que los adversarios adoptan marcos LLM autónomos para automatizar la explotación de vulnerabilidades, escalar las operaciones de información y monetizar los recursos robados de la nube a través de LLMJacking.
Ciberataques autónomos a velocidad de máquina
El panorama de la ciberseguridad ha alcanzado un punto de inflexión crítico con la adopción generalizada de marcos autónomos de modelos de lenguaje grande (LLM) por parte de los actores de amenazas. Google Threat Intelligence Group y Mandiant informan que adversarios de todo el espectro de cibercrimen, espionaje y operaciones de información ahora están poniendo en funcionamiento la IA generativa para comprimir los cronogramas de los ataques, escalar las operaciones y ejecutar intrusiones de varias etapas a la velocidad de la máquina. Este cambio representa un cambio de paradigma de la piratería manual a flujos de trabajo automatizados y agentes en los que agentes especializados colaboran para navegar desde los parámetros iniciales hasta los objetivos operativos sin intervención humana. herramientas como ARTEX, CAIRN, CyberStrikeAI, PentAGI y HexStrike AI permiten a los actores de amenazas descubrir vulnerabilidades de baja complejidad, generar cargas útiles de un solo uso a pedido y ajustar tácticas dinámicamente utilizando comentarios de ejecución en tiempo real. Si bien estos marcos actualmente intercambian sigilo por velocidad, generando tráfico forense e identificadores reconocibles, su capacidad para encadenar rutas de ataque complejas aumenta significativamente el alcance operativo y presenta un nuevo desafío defensivo que excede las capacidades de mitigación de la velocidad humana.
Los actores de amenazas están aprovechando cada vez más los LLM y los marcos agentes para automatizar completamente la ingeniería inversa de parches mediante análisis diferencial. esta capacidad les permite convertir rápidamente en armas las vulnerabilidades de n-tarde y escalar los canales de explotación contra servidores con acceso a Internet sin intervención humana. Al comparar las versiones del código fuente antes y después de los anuncios de parches, analizar las notas de la versión y examinar el código de prueba de concepto, los adversarios pueden reducir drásticamente la ventana entre la divulgación del parche y la explotación armada. En una campaña observada, los actores de amenazas explotaron dos vulnerabilidades en los servidores de administración de impresión PaperCut como días cero dentro de los cuatro días posteriores a la divulgación inicial, probablemente utilizando LLM para crear y probar vulnerabilidades. Además, los LLM están transformando el descubrimiento de vulnerabilidades al automatizar fases que requieren mucha mano de obra, como el examen diferencial de parches y la confusión dinámica de protocolos. La proliferación de exploits generados por LLM ha creado un trabajo de verificación adicional para los defensores, ya que muchas pruebas de concepto afirmadas no son funcionales, lo que requiere una validación rigurosa mientras se monitorea en busca de evidencia de explotación confirmada.
Lea tambiénProbamos la nueva tecnología de conducción semiautónoma de Mercedes. El de Tesla es mejor.
Operaciones de información y redes de influencia sintéticas
Los grupos patrocinados por el estado, los proveedores comerciales de Influencia como servicio y las redes de monetización política no auténticas ahora utilizan habitualmente LLM en sus operaciones para producir medios sintéticos a escala, crear personajes localizados y automatizar la distribución multiplataforma. Esta plena integración de los LLM en las operaciones de información ha avanzado desde la experimentación inicial hasta el oficio estándar, mejorando considerablemente la calidad de los resultados de las campañas de influencia de larga duración. Los adversarios están cambiando su enfoque hacia aprovechar los LLM para el diseño de infraestructura, tuberías de distribución automatizadas y mecanismos antidetección. El desarrollo comercial de plataformas de influencia llave en mano habilitadas para LLM permite a los operadores automatizar todo el ciclo de vida de la campaña de influencia, incluida la creación de personajes, la generación de medios multimodales y la publicación interactiva en todas las plataformas. Estas plataformas están diseñadas para evadir las defensas de las redes sociales enrutando el tráfico a través de servidores proxy residenciales, preservando las cookies de inicio de sesión guardadas y utilizando teléfonos inteligentes virtuales en entornos de nube para disfrazar personas no auténticas como dispositivos móviles legítimos.
Las redes de monetización política no auténticas, impulsadas por las ganancias más que por la ideología, están explotando la polarización social para maximizar el compromiso y los ingresos publicitarios. Estas redes utilizan LLM para producir contenido político en masa, identificar temas lucrativos y promover material a través de presentadores de noticias sintéticos que ocasionalmente falsifican la imagen de periodistas reales para generar credibilidad. Al mismo tiempo, los proveedores comerciales de Influencia como servicio venden servicios que van desde campañas de influencia personalizadas hasta plataformas llave en mano que gestionan miles de perfiles sintéticos. El uso de LLM para producir comentarios, personajes sintéticos y animaciones estilizadas en la capa de contenido permite a los actores mejorar la resonancia demográfica y la credibilidad. Sin embargo, si bien la calidad del contenido ha mejorado, esto no necesariamente equivale a un mayor impacto, ya que los defensores reconocen e interrumpen cada vez más estos comportamientos no auténticos coordinados mediante la aplicación de políticas y el monitoreo de plataformas.
LLMSecuestro y abuso de infraestructura
Los adversarios están reutilizando cada vez más credenciales y recursos informáticos robados para impulsar herramientas LLM no autorizadas, una tendencia conocida como LLMJacking. Los actores con motivación financiera están comprometiendo los entornos de nube para consumir la computación en la nube y las cuotas de recursos de LLM de las organizaciones específicas, generando aumentos significativos en el uso y la facturación que pueden exceder los cientos de miles o incluso millones de dólares en cargos fraudulentos. Los actores de amenazas utilizan el robo de credenciales y el secuestro de sesiones para obtener acceso inicial, seguido de reconocimiento interno para identificar credenciales y sistemas de interés. Luego aumentan los privilegios creando cuentas de IAM no autorizadas o explotando vulnerabilidades en las claves de inferencia de LLM para establecer la persistencia. Dentro de entornos comprometidos, los atacantes habilitan servicios LLM, suscriben cuentas comprometidas a acuerdos de pago por uso y abusan de los recursos informáticos de la nube al aprovisionar instancias con potentes GPU.
La monetización de LLMJacking ha llevado a la proliferación de LLM Mixers, que son escaparates ilícitos que brindan a los compradores acceso no autorizado a los servicios de LLM y a la infraestructura de proxy subyacente. Estos mezcladores dirigen el tráfico de compradores a través de un conjunto de credenciales robadas e instancias informáticas para garantizar un acceso confiable y distribuir el volumen de consultas entre múltiples entornos de víctimas para reducir la probabilidad de detección. El ecosistema refleja el mercado más amplio del cibercrimen, con grupos de amenazas especializados que manejan fases discretas de la cadena de suministro, desde el establecimiento del acceso inicial hasta el mantenimiento de la infraestructura y la satisfacción del cliente. Los precios varían significativamente, con costos por millón de tokens que van desde diez centavos hasta veinticinco dólares, y algunos proveedores ofrecen suscripciones mensuales según el tipo de modelo ofrecido. Esta mercantilización del acceso a la IA reduce la barrera de entrada para los ciberdelincuentes, permitiéndoles escalar operaciones y ejecutar ataques con mayor eficiencia y menores gastos operativos.
Estrategias de mitigación y espionaje dirigido
Los grupos de ciberespionaje están aprovechando los LLM para la investigación de objetivos, el análisis automatizado de datos y nuevos vectores de ataque a la cadena de suministro. Se ha observado que los actores del nexo entre la República Popular China utilizan herramientas LLM para reconocimiento, escaneo de conclusión frontal y armamento de exploits, así como también realizan análisis de datos posteriores al compromiso para obtener información sobre las estructuras organizativas. En una evolución notable, los actores asociados con el clúster MIDNIGHT NEPTUNE han abusado de las arquitecturas de software LLM como superficie de ejecución lateral, modificando archivos de configuración para activar descargas de puerta trasera durante la ejecución local de asistentes de codificación. Los actores de amenazas de la RPDC también están utilizando herramientas basadas en LLM para generar currículums, ayudar con la codificación y respaldar la actividad de los trabajadores de TI, explotando los ganchos de ejecución de agentes nativos como vectores de acceso empresarial. Estos avances resaltan cómo los actores patrocinados por el Estado están integrando la IA en operaciones tanto ofensivas como de recopilación de inteligencia para mantener la persistencia a largo plazo y ampliar su alcance.
Google Security Operations y Mandiant están implementando paquetes de reglas volumétricas y de comportamiento especializados para detectar el uso de marcos autónomos y actividades de LLMJacking. La estrategia de defensa multifacética de Google integra salvaguardias proactivas a nivel de modelo, inteligencia de amenazas especializada y protocolos de contención específicos para proteger a los clientes y la infraestructura. Iniciativas como Large Sleep, un agente de inteligencia artificial desarrollado por Google DeepMind y Google Project Zero, buscan activamente vulnerabilidades de seguridad desconocidas, mientras que CodeMender automatiza la corrección de fallas identificadas. Secure AI Framework proporciona estándares de la industria para construir e implementar IA de manera responsable, y Google continúa fortaleciendo sus modelos contra el uso indebido a través de monitoreo continuo, capacitación en seguridad y clasificadores de entrada-salida. Al combinar el poder de razonamiento de los modelos de frontera con la remediación automatizada y la inteligencia de primera línea, la industria pretende contrarrestar la creciente amenaza de los ciberataques autónomos y preservar la integridad de los ecosistemas digitales.







