Informe de Anthropic expone cómo la inteligencia artificial puede ser arma de doble filo
Un informe de Anthropic revela que su sistema de IA Claude fue utilizado por actores maliciosos para vigilancia patrocinada por el Estado, drones autónomos letales y campañas de propaganda a gran escala. Los casos, ocurridos en Malí, Rusia, Yemen, Francia y los Emiratos Árabes Unidos, subrayan los riesgos de la rápida evolución de la inteligencia artificial a nivel mundial.
El documento detalla que en Malí, un consultor tecnológico vinculado al servicio de inteligencia estatal utilizó Claude Code para desarrollar ‘Lakana 360’, un sistema de vigilancia capaz de monitorear aproximadamente 25 millones de tarjetas SIM. La aplicación, que Anthropic no pudo desactivar, puede interceptar llamadas, mensajes y tráfico de voz, e identificar a usuarios por su voz incluso si cambian de SIM, además de detectar cifrado o VPN. Este caso ejemplifica cómo la IA puede amplificar capacidades de vigilancia masiva.
En Rusia, un equipo de desarrolladores probablemente independientes empleó Claude para programar drones autónomos ‘kamikaze’ que seleccionaban objetivos y se estrellaban contra ellos sin intervención humana. El enjambre apuntó repetidamente a una ubicación en Donetsk, Ucrania, y usó VPN para evadir restricciones geográficas. Aunque Anthropic lo consideró un grupo no oficial, el episodio plantea interrogantes sobre la proliferación de armas autónomas. En Yemen, otro grupo usó Claude Code para diseñar software de cohetes guiados, planos de misiles de largo alcance y vehículos hipersónicos, aunque sin completar un arma funcional tras un lanzamiento de prueba fallido.
La propaganda también fue un vector de abuso. Anthropic rastreó una operación de noticias falsas hasta LKM Company, agencia francesa que usó Claude para generar artículos políticos masivos para unos 70 sitios web en cerca de 20 idiomas, con al menos 8.913 notas. Cada sitio tenía un periodista ficticio y cuentas falsas en Twitter/X, impulsadas por cientos de perfiles falsos. La operación vendía ‘propaganda como servicio’, adaptando el mensaje al pagador, y se centró en Estados Unidos, Brasil y Francia, con intensa actividad en la República Democrática del Congo, favoreciendo su postura frente a Ruanda.
Finalmente, una operación vinculada a los Emiratos Árabes Unidos utilizó Claude para atacar a los Hermanos Musulmanes y a expertos de la ONU que criticaban el papel de Abu Dabi en el conflicto de Sudán. Este caso, junto con los anteriores, evidencia cómo la IA puede ser empleada para desestabilizar regiones y manipular la opinión pública. El informe de Anthropic subraya la necesidad de una regulación global urgente y de mayor vigilancia sobre el uso dual de estas tecnologías.
