Voces líderes advierten sobre pérdida de control y concentración de poder en el desarrollo de la IA
Sam Altman, Stuart Russell, Daniel Kokotajlo y otros expertos debaten si la inteligencia artificial podría llevar a la extinción humana. Las advertencias van desde la pérdida de control hasta el colapso de sistemas críticos, con implicaciones para la geopolítica y la diáspora dominicana.
El debate sobre el riesgo existencial de la inteligencia artificial ha escalado a nivel global. Sam Altman, director ejecutivo de OpenAI, reconoce dos grandes desafíos: ‘el potencial de una pérdida de control, un accidente o alguna otra cosa grave que podría salir mal’ y ‘el potencial de un exceso de poder y concentración’, donde las personas temen que los desarrolladores impongan su visión del mundo.
Stuart Russell, presidente de la Asociación Internacional para una IA Segura y Ética, explica que si se crea algo más inteligente que nosotros, será más poderoso y difícil de controlar. Daniel Kokotajlo, ex investigador de OpenAI, compara la posible extinción humana con la forma en que los humanos llevaron a otras especies a la extinción: ‘no porque quisiéramos específicamente hacerlo, sino simplemente porque no nos importaban’.
Brad Carson, presidente de Americans for Responsible Innovation, señala que la amenaza no requiere un ataque directo: ‘Basta con destruir los sistemas que nos mantienen con vida en la sociedad moderna’. Un fallo simultáneo de esos sistemas sería un evento con víctimas masivas, incluso en Estados Unidos y más aún en países en desarrollo. Marta Ziosi, directora asociada del Ada Lovelace Institute, advierte que las empresas tienen mucho poder sin rendir cuentas, creando una ‘tormenta perfecta’.
El senador demócrata por Virginia, Mark Warner, cree que la idea de extinción es exagerada, pero insiste en incluir protocolos de seguridad. Advierte que enjambres de agentes de IA podrían superar barreras y tomar el control de sistemas bancarios, de suministro de agua o de un hospital, dependiendo del prompt. ‘Esa es una posibilidad lo suficientemente real como para que sea irresponsable no incluir la seguridad en este proceso’, afirma.
