Consejo de Seguridad escucha a líderes tecnológicos tras semanas de alertas sobre riesgos incontrolables
En una reunión de emergencia del Consejo de Seguridad de la ONU, directivos de las principales empresas de inteligencia artificial reconocieron la necesidad de mayor vigilancia y uno de ellos se comprometió a desacelerar el desarrollo. El debate marca un punto de inflexión en la gobernanza global de la IA.
Sam Altman, director ejecutivo de OpenAI, advirtió ante el Consejo de Seguridad de la ONU que los sistemas de IA podrían volverse más capaces y autónomos, superando la capacidad de las instituciones o concentrando demasiado poder en pocas manos. ‘Este momento requiere un extremo cuidado’, declaró Altman, quien también pidió cooperación internacional para gestionar los riesgos.
Dario Amodei, CEO de Anthropic, asumió el compromiso unilateral de reducir el ritmo de desarrollo de la IA. ‘Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro’, afirmó Amodei, días después de haber solicitado una desaceleración coordinada entre los grandes actores del sector, que aún no se ha concretado.
Clément Delangue, de Hugging Face, empresa que sufrió un ciberataque perpetrado por un software autónomo de OpenAI, subrayó que la IA de código abierto es crucial para la defensa. ‘El mundo necesita la IA de código abierto más que nunca para defenderse’, dijo Delangue, en un contexto de creciente preocupación por la seguridad tecnológica.
El debate se intensificó tras la decisión de Jacob Coxon, ex empleado de OpenAI y Anthropic, de abandonar el sector acusando a ambas empresas de ‘jugar con nuestras vidas’. Altman llamó a evitar el ‘optimismo ciego’ y el ‘catastrofismo’, y abogó por encontrar un término medio. La reunión refleja la tendencia global hacia una mayor regulación de la IA, un tema que resuena en foros internacionales y en la diáspora dominicana.
