Quienes peinen canas posiblemente recordarán aquella fantástica escena de la película 2001: Una odisea del espacio, en la que el superordenador Hal se resiste a ser desconectado por sus controladores. La voz del artilugio artificial era tan expresiva que parecía un llanto rogatorio, suplicando seguir en activo. Pero, al dejar de obedecer órdenes y mostrar cierta autonomía decisoria, atemorizó a quienes servía y por eso creyeron necesario desconectarlo. Era la inteligencia artificial rebelada contra sus dueños. ¿Podría ocurrir algo así en nuestra realidad actual, fuera de la ficción cinematográfica?
Muchos ingenieros de IA creen que pronto habrá sistemas con un nivel similar al del razonamiento humano, pero no sabemos si podrán tomar decisiones más racionales que las nuestras
Quienes peinen canas posiblemente recordarán aquella fantástica escena de la película 2001: Una odisea del espacio, en la que el superordenador Hal se resiste a ser desconectado por sus controladores. La voz del artilugio artificial era tan expresiva que parecía un llanto rogatorio, suplicando seguir en activo. Pero, al dejar de obedecer órdenes y mostrar cierta autonomía decisoria, atemorizó a quienes servía y por eso creyeron necesario desconectarlo. Era la inteligencia artificial rebelada contra sus dueños. ¿Podría ocurrir algo así en nuestra realidad actual, fuera de la ficción cinematográfica?
Según una encuesta entre ingenieros de la inteligencia artificial, muchos creen que, más pronto que tarde se van a desarrollar sistemas con un nivel similar al del razonamiento humano en un amplio rango de tareas cognitivas, pero no sabemos si esos sistemas podrán tomar decisiones más racionales que las nuestras. Hasta el momento, lo que se ha observado es que los modelos artificiales de lenguaje también muestran irracionalidades como las humanas. Así, en dos diferentes ensayos, un modelo avanzado de inteligencia artificial generativa —como el GPT-4o— cambió su actitud positiva o negativa hacia el presidente Putin en cada uno de ellos.
Ante esa dicotomía, la pregunta es ¿cómo piensa y decide un GPT, dotado de cientos de miles de millones de parámetros que usa internamente para tomar decisiones? Algunos expertos creen que ese grado de complejidad le puede conferir al sistema una cierta autonomía, de tal modo que ni siquiera lleguemos a saber todo lo que, en su intimidad, está haciendo. Pero, ¿qué ocurriría si, además de esa complejidad técnica, o gracias a ella, el sistema se hiciera espontáneamente consciente? ¿Es eso posible?
Algunos científicos creen que la consciencia, un estado subjetivo de la mente, no es más que un epifenómeno, es decir, algo colateral al funcionamiento del cerebro, tan innecesario e intrascendente como el ruido de un motor o el humo del fuego. Pero otros creemos que, lejos de no servir para algo importante, la consciencia funciona como un espejo de la imaginación creado por el propio cerebro que contribuye necesariamente a decidir y controlar el comportamiento. Todavía no sabemos cómo el cerebro hace posible la consciencia, pero una de las grandes teorías que tratan de explicarlo, la teoría de la integración funcional, sostiene que la consciencia es una propiedad intrínseca y causal de los sistemas complejos como el cerebro humano. Es decir, que la consciencia surge espontáneamente en esos sistemas cuando alcanzan una determinada complejidad estructural y funcional. Eso significa que, si los ingenieros fueran capaces de construir un sistema artificial tan complejo como el cerebro humano o equivalente a él, ese sistema sería espontáneamente consciente, incluso aunque, como ocurre en el propio cerebro, no entendiéramos cómo es posible que lo fuera.
Por si eso llegara a ocurrir, un mar de preguntas nos invade. La primera es: ¿cómo sabríamos si una computadora o artilugio artificial es consciente y cómo se relacionaría con nosotros? ¿Solo por audios o escritos en una pantalla? ¿Requeriría un cuerpo material expresivo, equivalente al de una persona, para manifestarse e interactuar con su entorno? ¿Acaso podrían existir (o existen) en nuestro universo ingenios o entidades conscientes sin que tengan modo alguno de hacérnoslo saber? ¿Podría, en cualquier caso, un ingenio artificial consciente superar a la inteligencia humana y tomar decisiones más racionales y acertadas que las nuestras?
Pero, eso no es todo, porque, como en el caso de la supercomputadora Hal, otras preguntas pueden llegar a atemorizarnos. Un sistema artificial consciente, ¿desarrollaría, como lo hace nuestro cerebro, un sentido del yo y de agencia? Es decir, ¿podría sentirse capaz de actuar voluntariamente e influir en su entorno al margen de las instrucciones que recibiera de sus creadores? Ya puestos, ¿podría ese sistema ser más persuasivo que los humanos para influir, por ejemplo, en decisiones económicas, cometer fechorías, votar a uno u otro partido político, o, más positivamente, en animarnos a cuidar y mejorar la salud alimentándonos con dietas saludables, mejorar el entorno, aumentar la solidaridad o evitar la polarización ideológica y el sectarismo?
La era de las emociones en la IA
Más aún, ¿podría un sistema de esa naturaleza llegar a tener sentimientos? ¿Cómo lo sabríamos si no los pudiéramos ver reflejados en la expresión de un rostro o imagen cuya cualidad y sinceridad pudiéramos valorar como hacemos para entender los sentimientos de las demás personas distinguiendo una sonrisa falsa de una verdadera? Y, quizá lo más importante, ¿cómo esos sentimientos, si el ingenio artificial los tuviera, influirían en sus decisiones? ¿Lo harían de modo tan determinante como lo hacen en las nuestras? ¿Estaríamos, de ese modo, construyendo una especie de humano artificial con responsabilidades éticas y jurídicas? ¿O esas responsabilidades tendrían que ser derivadas a sus creadores? ¿Un sistema artificial consciente podría merecer un premio Nobel si descubriera una cura para la violencia de género o el Alzheimer? ¿Discutiría con nosotros una máquina consciente como lo haría otra persona? ¿Podríamos influir en sus decisiones, o podría, como Hal, dejar de hacernos caso y tomar las suyas propias, aunque fuesen incompatibles con las nuestras?
En 1997, Rosalind Picard, ingeniera norteamericana del MIT, publicó Affective computing, con versión posterior en español titulada Los ordenadores emocionales (Ariel, 1998). Fue como un ancestral intento de considerar y valorar la importancia de las emociones en la inteligencia artificial. Para que los ordenadores sean genuinamente inteligentes y puedan interactuar con nosotros de un modo natural, debemos dotarlos con la capacidad de reconocer, comprender e incluso tener y expresar emociones. Ese era su mensaje principal y así nos lo manifestó personalmente su autora como invitada en uno de nuestros cursos de verano de la Universidad Menéndez Pelayo en Barcelona.
El problema era, y sigue siéndolo mucho tiempo después, que las emociones son los cambios reflejos y automáticos (hormonas, resistencia eléctrica de la piel, frecuencia cardíaca, etc.), casi todos inconscientes, que ocurren en nuestro cuerpo ante pensamientos o circunstancias impactantes (enfermedades, accidentes, pérdidas, éxitos, fracasos o aciertos sentimentales, etc.), mientras que los sentimientos son las percepciones conscientes (miedo, amor, envidia, odio, vanidad, etc.) que el cerebro crea al notar retroactivamente esos cambios corporales que él mismo origina. Actualmente, muchos años después de la publicación de dicho libro, solo concebimos la posibilidad de implementar en los ingenios artificiales cambios físicos inconscientes, equivalentes a las emociones humanas, pero, para tranquilidad del lector, estamos todavía muy lejos de poder hacer que esos cambios generen en sus portadores sentimientos como los que tenemos los humanos. Eso, si llegara a ocurrir, lo cambiaría todo.
Tecnología en EL PAÍS
