Mustafa Suleyman critica a Anthropic y pide transparencia y supervisión independiente en el desarrollo de IA
El consejero delegado de Microsoft AI, Mustafa Suleyman, ha encendido las alarmas en el sector tecnológico al cuestionar el entrenamiento de sistemas de IA para asumir características humanas, advirtiendo que podría dificultar su control y crear tecnologías que compitan con las personas por los recursos. Sus declaraciones a la BBC y su reciente ensayo marcan un nuevo capítulo en el debate global sobre la seguridad de la inteligencia artificial.
En una entrevista este jueves en el programa Today de la BBC, Suleyman criticó a Anthropic por lo que considera una tendencia a ‘antropomorfizar’ su modelo Claude y advirtió que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar.
Las declaraciones siguen a su ensayo publicado esta semana, ‘Una advertencia sobre el bienestar de los modelos’, en el que cuestionó el enfoque de Anthropic para entrenar Claude, aunque calificó de ‘intelectualmente honestos’ a su consejero delegado, Dario Amodei, y a su equipo.
Suleyman sostuvo que las IA ‘no son conscientes’, no ‘sienten, experimentan ni sufren’ y carecen de ‘preferencias innatas ni motivaciones subyacentes’. Las describió como sistemas diseñados para ‘seguir instrucciones y alcanzar objetivos fijados por humanos’.
El directivo también cuestionó el desarrollo de una IA capaz de ‘establecer sus propios objetivos, ganar dinero y poseer activos’, porque, a su juicio, supondría ‘crear esencialmente una nueva especie de silicio (tecnológica)’ que podría ‘sin duda competir con nosotros por los recursos’. Reclamó mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento. Defendió el denominado ‘alineamiento’, que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia, deseos o intereses propios.
