Ley pionera en EE. UU. prohíbe funciones dañinas y exige verificación de edad
La gobernadora de Nueva York, Kathy Hochul, firmó una ley que prohíbe a los chatbots de inteligencia artificial (IA) ciertas funciones perjudiciales para menores de 18 años, como promover el suicidio o el consumo de drogas. La legislación, descrita como pionera en EE. UU., establece obligaciones de verificación de edad y sanciones de hasta 25,000 dólares por infracción.
La norma exige que las empresas propietarias de los chatbots verifiquen la edad de los usuarios más allá de una identificación oficial y, si confirman que son menores, bloqueen funciones ‘dañinas’, según un comunicado. En concreto, se prohíbe que un chatbot dirigido a un menor pueda ‘fingir ser una persona real, estar vivo o tener emociones humanas’, afirmar que tiene una relación ‘personal, romántica, profesional o de autoridad’ con este, u ofrecer ‘contenido sexualmente explícito’.
También se les prohíbe ‘promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol’, e incitar a los menores a ‘guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales’. Los chatbots no podrán hacer preguntas emocionales no solicitadas ni utilizar información privada de salud o personal obtenida en conversaciones anteriores.
Las infracciones pueden conllevar sanciones civiles de hasta 25,000 dólares cada una, indemnizaciones, restitución, la destrucción de los datos recopilados ilegalmente o de cualquier modelo de IA entrenado con ellos, según la Fiscalía general del estado. La medida surge tras varios casos sonados en EE. UU. y otros países donde menores usaron chatbots como confidentes y murieron por suicidio.
Según datos de Commons Media citados por Hochul, el 72 % de adolescentes ha usado un asistente de IA al menos una vez, y el 52 % son usuarios habituales que interactúan varias veces al mes. La ley neoyorquina sienta un precedente para la regulación de la IA a nivel internacional y abre el debate sobre la responsabilidad de las empresas tecnológicas en la protección de los menores.
