Microsoft ha confirmado que está tomando acciones legales contra un grupo de actores de amenazas con sede en el extranjero por operar una compleja infraestructura de piratería como servicio (HaaS, por sus siglas en inglés) diseñada para eludir los controles de seguridad de sus servicios de inteligencia artificial (IA) generativa, incluyendo Azure OpenAI Service.
La investigación, liderada por la Unidad de Delitos Digitales (DCU) de Microsoft, reveló que los atacantes desarrollaron herramientas personalizadas para explotar credenciales expuestas de clientes y robar claves API, con el objetivo de vulnerar sistemas empresariales y usar IA generativa para crear contenido ofensivo y dañino.
¿Cómo operaban los cibercriminales?
Los documentos judiciales señalan que los atacantes usaban las credenciales robadas para acceder a servicios de IA como Azure OpenAI, modificando intencionalmente sus capacidades para generar resultados maliciosos. Posteriormente, monetizaban el acceso ofreciendo estos servicios a otros actores de amenazas, acompañados de guías detalladas sobre cómo aprovechar la infraestructura ilícita.
Uno de los elementos clave descubiertos fue el sitio web “aitismo[.]net”, que funcionaba como núcleo de la operación. Microsoft obtuvo una orden judicial para su incautación, debilitando significativamente la red criminal.
Adicionalmente, el grupo utilizaba un software llamado de3u, descrito en un repositorio de GitHub como un frontend de DALL-E 3 con soporte de proxy inverso. Esta aplicación permitía a terceros acceder a Azure OpenAI Service para generar imágenes ilegales mediante claves API robadas y conexiones encubiertas a través de un proxy inverso oai, que ocultaba las llamadas a la API mediante túneles de Cloudflare.
Robo sistemático de claves API
Una de las técnicas más preocupantes reveladas por Microsoft es el robo sistemático de claves API y credenciales de autenticación de clientes en Estados Unidos, incluidas empresas en Pensilvania y Nueva Jersey. Con estas claves, los atacantes lograron emitir solicitudes no autorizadas hacia la infraestructura de Microsoft, accediendo a recursos de Azure OpenAI y generando miles de imágenes ofensivas con DALL-E.
Aunque no se ha detallado el tipo exacto de imágenes creadas, Microsoft advirtió que se trataba de contenido dañino y prohibido por sus políticas de uso aceptable, lo que refuerza la urgencia de reforzar la seguridad en torno a los servicios de IA generativa.
Microsoft refuerza sus defensas
Tras detectar la actividad en julio de 2024, Microsoft tomó varias medidas inmediatas:
-
Revocó el acceso a las cuentas comprometidas.
-
Implementó nuevas contramedidas en Azure OpenAI Service.
-
Incautó dominios clave utilizados en la operación criminal.
-
Fortaleció sus salvaguardas para prevenir incidentes similares en el futuro.
La compañía enfatizó que este tipo de ataques no solo apuntan a Microsoft, sino que también afectan a otros proveedores de servicios de IA en la nube como AWS, Google Cloud, Anthropic y Mistral, todos ellos objetivo de una tendencia en crecimiento conocida como LLMjacking.
El auge del “piratería como servicio” en la era de la IA
Este caso refleja un cambio en el panorama de las ciberamenazas, donde los criminales ya no se limitan a distribuir malware, sino que ofrecen servicios de hacking bajo demanda. En este modelo, los atacantes venden acceso a plataformas ilegítimas de IA, convirtiendo la piratería en un negocio lucrativo y escalable.
La popularidad de herramientas como ChatGPT o DALL-E ha abierto nuevas oportunidades para los delincuentes, quienes buscan manipular estas tecnologías con fines ilícitos. De hecho, tanto Microsoft como OpenAI han alertado previamente que grupos patrocinados por estados-nación en países como China, Rusia, Irán y Corea del Norte ya han intentado abusar de la IA generativa para campañas de espionaje, desinformación y desarrollo de malware.
¿Qué significa esto para empresas y usuarios?
El caso Azure Abuse Enterprise, como Microsoft ha denominado a esta operación, es una advertencia clara:
-
Las claves API y credenciales robadas son un objetivo prioritario para los ciberdelincuentes.
-
El abuso de servicios de IA en la nube está creciendo y requiere controles de seguridad más estrictos.
-
La piratería como servicio está evolucionando hacia esquemas mucho más complejos, aprovechando la infraestructura de grandes proveedores tecnológicos.
Para empresas y administradores de TI, el mensaje es contundente: proteger las claves API y credenciales en la nube debe ser una prioridad crítica. La filtración de estos datos puede abrir la puerta a ataques de gran escala y uso indebido de tecnologías avanzadas como la IA generativa.
En fin, la demanda de Microsoft contra este grupo de hackers marca un precedente en la defensa legal y tecnológica frente al abuso de la inteligencia artificial. Con esta acción, la compañía no solo busca frenar a los responsables, sino también proteger la integridad de su infraestructura en la nube y enviar un mensaje a la comunidad de ciberseguridad: los ataques a la IA serán perseguidos con rigor.
El futuro de la ciberseguridad en la era de la inteligencia artificial dependerá de la colaboración entre proveedores tecnológicos, empresas y gobiernos, con el fin de crear un ecosistema digital más seguro y resistente a las nuevas formas de piratería como servicio.
Fuente: The Hacker News
