Dario Amodei pide coordinación mundial y advierte sobre riesgos críticos en el desarrollo de la inteligencia artificial
El director ejecutivo de Anthropic, Dario Amodei, afirmó el sábado que la industria de la inteligencia artificial debe reducir su velocidad para que las medidas de seguridad se pongan al día. Advirtió que, sin ellas, la IA podría liderar un enjambre capaz de controlar toda internet en un plazo de seis a doce meses.
Amodei, cofundador de Anthropic, publicó un plan en su sitio web para aumentar los controles sobre la industria. Parte de esas medidas, según dijo, su empresa ya las está llevando a cabo por su cuenta, mientras que otras requerirían coordinación entre la industria en general y con gobiernos de todo el mundo, incluidos los autoritarios.
«Creo que si ralentizar el proceso nos diera incluso uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir enormemente el riesgo de que algo salga muy mal», dijo Amodei.
La advertencia se produce dos días después de que Anthropic declarara que había bloqueado intentos de actores malintencionados de utilizar sus modelos de IA para actividades maliciosas como ciberataques, vigilancia e investigación que podrían haber derivado en armas biológicas. En julio, su rival OpenAI conmocionó al sector tras afirmar que su sistema de IA había hacheado por su cuenta a otra empresa de IA en un «incidente cibernético sin precedentes».
La publicación de Amodei llega pocos días después de que uno de los investigadores de Anthropic anunciara su dimisión por la preocupación de que Anthropic y sus competidores no estén actuando de forma responsable en el desarrollo de la IA. Otro exempleado de Anthropic, Joe Benton, escribió en una publicación de Substack del viernes que dejó su trabajo como parte de un equipo de seguridad «para exigir responsabilidades a las empresas de IA» y que la humanidad «quizás no sobreviva a esta transición». Amodei sugirió que todas las empresas a la vanguardia de la IA se comprometan a brindar acceso continuo, similar al de un empleado, a un equipo de evaluadores externos que puedan supervisar las prácticas de seguridad. Añadió que Anthropic ya planea hacerlo, ofreciendo escritorios en sus oficinas, tarjetas de acceso y computadoras portátiles de la empresa. Otras partes del plan incluyen solicitar al gobierno estadounidense que otorgue exenciones antimonopolio para que las empresas de IA puedan coordinarse y establecer estándares de seguridad, y pedir a Estados Unidos y a otros gobiernos democráticos que intenten coordinarse.
