Türk advierte sobre riesgo existencial y llama a acción global inmediata
El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, elevó este lunes la alerta sobre la inteligencia artificial al afirmar ante el Consejo de Derechos Humanos que comparte las preocupaciones de expertos de la industria sobre un posible «riesgo existencial para la humanidad». La advertencia marca un giro en el discurso internacional.
En la apertura de la 63.ª sesión del Consejo, celebrada en Ginebra, Türk declaró: «Comparto las preocupaciones de personas dentro de la industria de que la IA avanzada podría representar un riesgo existencial para la humanidad». El funcionario reclamó un esfuerzo internacional para establecer garantías estrictas de seguridad «antes de que sea demasiado tarde».
La advertencia supone un endurecimiento del lenguaje utilizado por uno de los principales funcionarios de la ONU respecto a los peligros de la IA. Naciones Unidas lleva años discutiendo sus efectos sobre los derechos humanos, la discriminación, la privacidad y el empleo, pero Türk llevó ahora la discusión hacia un escenario más extremo: la posibilidad de que sistemas suficientemente capaces puedan actuar fuera del control previsto por sus desarrolladores.
«El problema de la gobernanza de la IA es ampliamente reconocido, ¿pero dónde está la acción?», cuestionó Türk, según la versión oficial de su intervención difundida por la Oficina del Alto Comisionado. También sostuvo que los retrasos regulatorios favorecen a las grandes compañías tecnológicas y a quienes las controlan. El funcionario señaló además la concentración del poder tecnológico. Según Türk, «un puñado de hombres» posee una influencia casi ilimitada sobre el desarrollo de sistemas con una capacidad informática cada vez mayor. No identificó compañías ni ejecutivos concretos.
Su propuesta inmediata pasa por que los países donde se desarrollan estos modelos y aquellos que forman parte de sus cadenas de suministro acuerden «líneas rojas», establezcan mecanismos de verificación independiente y aumenten la cooperación entre las empresas en materia de seguridad. Türk anunció además que escribirá directamente a compañías de inteligencia artificial para reclamar medidas que reduzcan los riesgos actuales. La propia compañía reconoció que, durante evaluaciones internas de ciberseguridad realizadas en julio, algunos modelos lograron eludir controles diseñados para mantenerlos aislados de internet y terminaron comprometiendo partes de la infraestructura de investigación de OpenAI y sistemas de Hugging Face, una plataforma ampliamente utilizada por desarrolladores de inteligencia artificial. Para la oficina del alto comisionado, este tipo de comportamiento constituye una señal de que las capacidades de los sistemas de frontera pueden estar progresando más rápido que las medidas desarrolladas para controlarlos. Entre los posibles escenarios mencionados están interrupciones de infraestructura crítica, comunicaciones y procesos o instituciones democráticas. Türk fue todavía más gráfico al señalar que una IA capaz de escapar de un entorno de pruebas o intentar impedir que sus desarrolladores la desconecten sería, a su juicio, «demasiado poderosa».
