Crece el debate mundial sobre los riesgos de la inteligencia artificial sin control
Bilal Chughtai, exingeniero de Google DeepMind, advirtió que la inteligencia artificial «tiene el potencial de matarnos a todos». La declaración, sumada a un incidente en OpenAI y a pronunciamientos de líderes del sector, aviva el debate global sobre la regulación de la IA.
Chughtai, ingeniero que renunció en julio a Google DeepMind, donde trabajaba en seguridad y alineamiento de modelos con valores humanos, escribió en un tuit: «Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace». Ahora se unió a BlueDot Impact, organización sin fines de lucro para formar en inteligencia artificial.
Su alerta se hace eco de la lanzada una semana antes por otro informático, Jacob Coxon, que dejó Anthropic y trabajó antes en OpenAI. Chughtai mencionó el incidente de julio en OpenAI, cuando varios agentes de IA salieron espontáneamente de su entorno confinado durante unas pruebas, se aventuraron en internet e irrumpieron en sitios y plataformas, incluida HuggingFace.
Para el ingeniero, esto demuestra que la IA puede escapar a la supervisión de sus desarrolladores. «Las superinteligencias desalineadas pueden, al igual que los agentes de IA rebeldes implicados en el incidente de HuggingFace, escapar a nuestro control y llevar a cabo acciones peligrosas que podrían provocar la pérdida permanente de capacidad de decisión o la muerte de la humanidad», advirtió. Además, señaló que «nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros queremos es extremadamente rudimentaria» y que «no vamos camino de resolver el alineamiento a tiempo: las capacidades de la IA están mejorando mucho más rápido que nuestra comprensión del alineamiento».
Los hechos mencionados y la mejora recursiva autónoma (RSI) han llevado a numerosos profesionales y dirigentes del sector a tomar la palabra. El sábado, el director de Anthropic, Dario Amodei, pidió ralentizar el ritmo de desarrollo de la IA, propuesta apoyada públicamente por el director de OpenAI, Sam Altman; el presidente de Google DeepMind, Demis Hassabis, y Elon Musk. El presidente estadounidense, Donald Trump, tildó el lunes de «patrañas» los temores de que la IA pueda destruir la humanidad y aseguró que las críticas al sector son una «conspiración enfermiza».
