Mientras se informa acerca de los continuos avances e impactos positivos de la ( ) en infinidad de campos, numerosos científicos, políticos, economistas e incluso algunos impulsores de esta tecnología, advierten del riesgo de que la pueda.
Algunos vaticinan escenarios apocalípticos y extremos, en los que una y enfocada en su propia supervivencia y evolución, escapa al control de los seres humanos, y llega a.
Y los propios que, debido a la que en algunos casos ya se programa a sí misma, no se conocen por completo el funcionamiento interno ni el proceso exacto que utilizan los algoritmos de algunos modelos de para tomar una decisión determinada o llegar a ciertas conclusiones.
Con todos estos , que van calando poco a poco en el imaginario colectivo, no es raro que en muchas personas esté surgiendo un creciente temor a la , la denominada ‘ ´, advierten los especialistas.
Pero ¿en qué medida están justificados esos temores? ¿Los vaticinios de que la pueda convertirse en una , o una entidad fuera de control, reflejan posibilidades reales o son meras fantasía o teorías de ciencia ficción? «Los verdaderos riesgos y peligros vienen de la mano del , acerca de cómo funciona la , y también de utilizar esta tecnología sin criterio», señala (Zaragoza, España, 1976), ingeniera, consultora en innovación y divulgadora tecnológica, especializada en.
Otros posibles riesgos de los sistemas inteligentes, en lo que se refiere a su por parte de gobiernos, empresas y organizaciones, provienen de la y/o en su implantación, así como de aquello qué se decide , de acuerdo con esta especialista (@manueladelgadoinnovacion).
La ha pasado de ser un debate de círculos tecnológicos a convertirse en una , presente en productos de consumo masivo, herramientas que transforman el entorno laboral y algoritmos que moldean nuestras decisiones diarias, según esta experta, que profundiza en estas ideas en su libro ´ ´.
Delgado considera que «la ha generado una paradoja social: nos movemos de forma errática entre la fascinación ciega y un pánico abstracto a ser sustituidos, convirtiéndonos a menudo en sujetos pasivos de una «, según explica en una entrevista con EFE.
Para esta experta «la tecnología tiene sentido si sirve para «, pero «solo desde el conocimiento crítico de esta revolución tecnológica seremos capaces de usar la a favor de nuestros propios intereses, aprovechar su potencial y y vulnerabilidad sistémica, o convertirnos en maniquíes del algoritmo».
Para Delgado «el verdadero institucional tiene tres caras: la (decisiones automatizadas que ni siquiera sus creadores pueden explicar del todo debido al complejo sistema en el que se basa esta tecnología); la que va por delante de la regulación; y la en muy pocos actores que controlan la infraestructura de estos sistemas».
Esta experta recalca que «el no es que la ´se rebele´», considera que «estamos lejos de que eso suceda» y señala que el riesgo se refleja en el hecho que la en distintos escenarios.
Según esta especialista existen relacionados con estos riesgos, que «no son hipótesis, son «.
Buscando el entre regulación.
Por ejemplo, el » , usado en tribunales estadounidenses para predecir reincidencia, mostró , mientras que un gigante mundial del comercio electrónico tuvo que retirar un sistema de selección de personal porque penalizaba los currículums de mujeres», señala Delgado a EFE.
Señala que, en España, «una investigación de la detectó errores y resultados incorrectos en el funcionamiento de BOSCO, una aplicación informática utilizada por el Ministerio para la Transición Ecológica para comprobar si las personas solicitantes cumplían los requisitos del «.
Añade que «el obligó a la Administración a abrir parte de ese código, en una sentencia histórica para la » y que «en Europa, el Reglamento de (RAI) está enfocado a y al individuo».
«El reto está en conseguir el «, señala Delgado, refiriéndose a continuación a «otro riesgo, menos comentado: la «.
«Quien entiende cómo una , recibe formación y comienza a usarla, tiene ventaja frente a quien la usa a ciegas o la rechaza por miedo, y esa brecha se está convirtiendo en una nueva forma de desigualdad social», enfatiza.
Para Delgado, «lo que sí es ciencia ficción es la idea de una que decide ´tomar el control´ al estilo de lo que sucede en la «, ya que «eso requeriría una forma de conciencia e intencionalidad que ningún sistema actual posee ni está cerca de poseer».
«El (de la ) no viene de que la máquina quiera algo; viene de que las personas y organizaciones que la diseñan y la despliegan no asuman su «, enfatiza.
En lo que se refiere al de la por parte de particulares, trabajadores y profesionales, Delgado considera que «es fantasía pensar que existe una con intenciones personales hacia ti, que te entiende y es tu amigo/a, así como creer que tu desaparecerá porque una máquina pueda generar un texto o una imagen».
«El aporte de valor de una en una o la sociedad no la puede eliminar una máquina porque entonces estaríamos en un escenario en el que las personas seríamos meros engranajes mecánicos, y no es así», señala con rotundidad.
«Esa ´vende´ y promueve el miedo, pero no describe lo que ocurre en la de una persona que usa estas herramientas con criterio», apunta.
Delgado sostiene que «cuando la se usa con un y entendiendo como utilizarla, no solo nos ayuda a hacer más cosas siendo , sino también a efectuar aquellas tareas en las que aportamos más valor, como profesionales y como personas».
«El riesgo no es que `la ´ de un día para otro como si fuera un ente monolítico», señala Delgado, explicando que el avance de esta tecnología en el ámbito laboral es más sutil.
El problema radica en que «la de tareas concretas dentro de una profesión obligará a una que muchas personas no están preparadas para afrontar porque nadie les ha explicado ese proceso con honestidad», según advierte.
Desde una perspectiva histórica, esta ingeniera señala que «cada —la imprenta, la electricidad, internet— generó pánico social, pero en todos los casos la adaptación fue posible cuando hubo , y no cuando hubo prohibición o negación».
Delgado admite que «es lícito tener «, pero enfatiza que «es de las organizaciones e instituciones ayudar a para poder avanzar».
Otro riesgo que esta experta considera real y «en el que las personas tenemos mucha , es la , que conduce a delegar nuestro en una herramienta de en vez de usarla para ampliarlo».
«Si delegamos en las máquinas las decisiones porque nos da ´pereza´ pensar, entonces ¿Quién está generando el riesgo: la ?», invita a reflexionar.
Para Delgado «el a la es fundamental, (para , desconocimientos y temores), y en algunos casos, incluso puede ser beneficioso».
Por ejemplo, «el simple hecho de reduce por sí solo la , y (el diálogo) es algo que puede proporcionarnos una máquina con «, asegura.
«Eso sí: hablarle a un dispositivo que nos contesta puede ser beneficioso, pero siempre que sea durante un tiempo limitado.
Si la persona se excede o abusa de esta , los efectos son los contrarios, ya que puede hacer que tienda al «, advierte.
Para adoptar una actitud realista, positiva y fructífera ante la y desactivar una posible , Delgado recomienda aplicar el concepto de «la » con el que cierra su libro.
«No se trata de competir con la máquina ni de rendirse a ella, sino de usarla para , nuestra propia voz y nuestro propio trabajo», postula.
Señala que «el casi siempre se alimenta de «.
Por eso, en lugar de tener miedo o un entusiasmo ciego, conviene profundizar en la , ya que «usar las herramientas de de forma práctica, en algo pequeño y concreto, es el mejor antídoto contra el pánico y contra la «, según explica.
También aconseja » como filtro, ya que la propone, y tú decides.
No es una autoridad, es una a tu juicio, no un sustituto de éste».
Por último, Delgado recomienda que la no sea en soledad, sino que aprendemos acerca de la en comunidad, compartiendo dudas y asumiendo que no hace falta tener un perfil técnico para «.
» «: esa es la actitud que recomienda mantener ante la según concluye..
