Informe revela intentos de usar IA en investigaciones biológicas sensibles mientras exempleado y directivo alertan sobre el futuro
Anthropic, una de las compañías de inteligencia artificial más enfocadas en seguridad, reveló que bloqueó usos de sus modelos Claude en investigaciones biológicas peligrosas. La noticia coincide con advertencias internas sobre el avance acelerado hacia sistemas autónomos y el riesgo de que una IA avanzada amenace a la humanidad en la próxima década.
La empresa Anthropic, una de las compañías de inteligencia artificial que más ha construido su reputación alrededor de la seguridad de sus modelos, enfrenta una sucesión de episodios que alimentan precisamente el debate sobre hasta dónde puede controlar la tecnología que desarrolla. La empresa reveló que bloqueó usos de sus modelos Claude en investigaciones biológicas que podían contribuir al desarrollo de agentes más peligrosos, incluida una propuesta relacionada con modificaciones del virus chikungunya para estudiar su transmisibilidad y capacidad de evadir el sistema inmunitario. La compañía admite que no pudo determinar que los investigadores tuvieran intenciones criminales, pero decidió intervenir por el potencial de doble uso de esos trabajos.
La revelación adquiere otra dimensión por el momento en que ocurre. El informe fue publicado apenas dos días después de que Jacob Coxon, investigador de 27 años que trabajó durante tres años en OpenAI y Anthropic, renunciara públicamente y acusara a las principales empresas del sector de avanzar demasiado rápido hacia sistemas cada vez más autónomos y poderosos. Coxon resumió su preocupación con una frase que se hizo viral: las compañías están avanzando hacia una inteligencia artificial capaz de mejorarse a sí misma y están «jugando con nuestras vidas». Sostuvo además que personas directamente involucradas en el desarrollo de estos sistemas creen sinceramente que una IA suficientemente avanzada podría convertirse en una amenaza para la humanidad antes de finalizar esta década.
No se trata únicamente de la opinión de un exempleado. Evan Hubinger, responsable de investigaciones de alineamiento en Anthropic, respaldó públicamente una parte sustancial de la advertencia y afirmó que estima en más de un 10 % la posibilidad de que una inteligencia artificial avanzada provoque la desaparición de la humanidad durante la próxima década. También reconoció que todavía no existe un plan claro para solucionar el problema de cómo mantener bajo control una eventual superinteligencia. Coxon, además, dejó Anthropic dos meses antes de que adquiriera derechos sobre una parte de las acciones que debía recibir como empleado, según declaró a Axios. El investigador utilizó ese hecho para rechazar la interpretación de que sus declaraciones buscaban aumentar la notoriedad o valoración de la compañía.
El nuevo informe de Anthropic aporta ejemplos tangibles a un debate que hasta hace poco se desarrollaba principalmente alrededor de escenarios futuros. Entre diciembre de 2025 y agosto de este año, la empresa detectó actores que utilizaban Claude para ciberataques, vigilancia, propaganda y trabajos científicos sensibles. Uno de ellos pidió ayuda para elaborar una propuesta de financiación de investigaciones de ganancia de función sobre chikungunya, destinadas a estudiar cambios que podían incrementar la transmisibilidad del virus y su capacidad para escapar de las defensas inmunitarias. Ese tipo de investigación puede tener objetivos legítimos, como anticipar mutaciones y desarrollar vacunas o tratamientos. El problema es que los mismos conocimientos pueden emplearse para hacer un patógeno más peligroso. Anthropic admite precisamente esa dificultad y señala que no puede asegurar que los casos detectados fueran intentos deliberados de desarrollar armas biológicas, pero sostiene que los modelos actuales han alcanzado un nivel de capacidad que exige intervención.
