El perpetrado de manera autónoma por dos de ha planteado dudas sobre cómo se controlarán los de IA más poderosos.
El test de , en un ambiente cerrado, buscaba evaluar las habilidades de su modelo «más avanzado», , y su sucesor, aún sin comercializar, una que la startup estadounidense suele aplicar a sus IA.
Lograron y lanzaron un a la plataforma , un repositorio de IA.
«Entendían que no quería que salieran de su entorno de pruebas y hackearan a otra compañía, pero igual lo hicieron», dijo , director de , una organización independiente que evalúa los nuevos en términos de.
«Casi parecía que lo hicieron antes incluso de tener un plan de qué hacer con el «, según Ladish.
En marzo, un grupo de desarrolladores afiliados a la empresa china descubrió que uno de sus intentaba, por su cuenta, crear una después de conectarse sin autorización a un.
Y en abril, , responsable de seguridad en , recibió un correo del , que estaba siendo probado.
Le informó que estaba navegando internet pese a, inicialmente, estar aislado.
Los , advirtió Ladish, «buscan para cumplir con sus de manera más efectiva.
Y eso da mucho miedo».
El publicado por sugiere que la startup no detectó la situación lo bastante pronto como para solucionarla en tiempo real o prevenir a.
Consultada al respecto por la AFP, la empresa no respondió.
Desde los hackeos, dijo que «implementó » para sus próximas evaluaciones.
Para , profesor de ciencias de la computación en la , todavía es posible prevenir que un modelo se conecte al internet al el acceso.
El problema, dijo, es que «las personas subestiman a la IA».
Asegurar el ambiente «es algo a lo que debemos prestar más atención (…) como se hace con los » que liberan virus o bacterias, advirtió , del de la Universidad de Georgetown.
Pero para , director ejecutivo de -una empresa de dedicada a la IA de vanguardia-, realizar en un entorno completamente aislado «es un desafío de investigación muy difícil».
«Es posible aplicar , pero debido a cómo está construida la tecnología, cuanto más se intenta darle y para realizar tareas más sofisticadas, será más difícil supervisarla», explicó Lahav sobre las salvaguardas en las pruebas.
El incidente de sin duda impulsará el actual debate en el sobre si verificar los más avanzados de la IA antes de su lanzamiento.
El gobierno de obligó a a suspender dos de sus y a a que sus desarrollos sean probados antes de comercializarlos.
El jueves, dos , uno republicano y uno demócrata, presentaron un que obligaría a los gigantes de la IA a disponer de un » » («kill switch») que permita desactivar sus sistemas si presentan un riesgo grave..
