Enrique Goñi es fundador y presidente de la Fundación Hermes y también presidente de Fundación Telefónica. Trabaja para promover y defender los derechos digitales de la ciudadanía, tanto en internet como con la IA tras su irrupción. Goñi, de 64 años y nacido en Pamplona, fue presidente y consejero delegado de Banca Cívica y de Caja Navarra. Ha sido también ponente en la Carta Española de Derechos Digitales. Este martes participó en una mesa redonda sobre los algoritmos y la IA en el Foro World In Progress (WIP) en Barcelona.
El presidente de las fundaciones Hermes y Telefónica apuesta por mayor innovación en el continente y propone un plan para auditar las cajas negras de la IA
Enrique Goñi es fundador y presidente de la Fundación Hermes y también presidente de Fundación Telefónica. Trabaja para promover y defender los derechos digitales de la ciudadanía, tanto en internet como con la IA tras su irrupción. Goñi, de 64 años y nacido en Pamplona, fue presidente y consejero delegado de Banca Cívica y de Caja Navarra. Ha sido también ponente en la Carta Española de Derechos Digitales. Este martes participó en una mesa redonda sobre los algoritmos y la IA en el Foro World In Progress (WIP) en Barcelona.
Pregunta. Ha dicho que nos estamos acercando al momento tabaco. ¿A qué se refiere?
Respuesta. A cuando el tabaco dejó de ser atractivo, diferencial, a convertirse en veneno. Eso pasó casi en 24 horas: el jinete de Marlboro, que nos parecía tan divertido, se convirtió en un heraldo de la muerte.
P. ¿Quién exactamente está dejando de ser atractivo?
R. La IA, las redes y la plutocracia digital. Este efecto tabaco está produciendo un despertar. La ciudadanía está despertando. Europa que, antes de ser un concepto político, es un concepto moral, también está empezando a ser reivindicada.
P. ¿Ha llegado el momento de reivindicar Europa como un lugar de innovación?
R. Es necesario, imprescindible. Si queremos preservar y mejorar el modelo político europeo, que es un modelo moral, ético y cultural antes que político, no es posible hacerlo sin una tecnología propia. Una de las cosas que estamos empezando a reivindicar es animar a los europeos, a las industrias europeas, a que cooperen para generar tecnologías tan competitivas como éticas. Europa no ha jugado todavía el partido; se ha dado por vencida sin haberlo jugado. Ves el terreno de juego ocupado o piensas que todavía no ha llegado tu momento. Pues que llegue. El mejor ejemplo europeo es el Airbus. Hace 25 años era impensable que nosotros fuéramos a hacer aviones más competitivos que Boeing y McDonnell Douglas. Hoy los hacemos. Europa, cuando coopera, gana. Otro ejemplo son los Erasmus, que es un fenómeno increíble. Europa tiene un problema: es un éxito de tal calibre que no se ha reinventado. Ahora hay que reinventarlo desde la tecnología.
P. Pero aquí hablamos de tecnologías de consumo. Es un reto distinto.
R. No me estoy refiriendo a tecnologías industriales. Me estoy refiriendo precisamente a tecnologías de gran escala que reviertan en los ciudadanos, que sean certificadas y adoptadas por los consumidores. Me estoy refiriendo a una IA de modelo europeo, cuyo código fuente y cadena algorítmica sea responsable, revocable, trazable y transparente.
P. No será fácil.
R. Hay un debate sobre la IA muy interesante: la IA piensa o no piensa. Primero, ¿qué es pensar: formular, aprender, razonar? Pues entonces la IA piensa. ¿O pensar es tener autoconciencia subjetiva? Autoconciencia subjetiva decimos que tenemos los humanos, pero no sabemos definir la conciencia. Esta especie de esencialismo humanista es más religioso que científico. Y creo, de hecho, que la IA está cerquísima de los atributos que nos definen. A veces lindando. No la veo como una amenaza. Tiene que ser civilizada. Nosotros conseguimos civilizar en Europa la confrontación, la discrepancia. El modelo europeo ha sido hacer de la reconciliación el sistema. Así que si conseguimos civilizar la reconciliación, ahora nos toca civilizar la tecnología.
P. Ha dicho que tenemos que competir no solo tecnológicamente, sino culturalmente.
R. Somos hijos de la ilustración, de Sócrates, de Epícteto, de Montaigne. Este es nuestro valor, la esencia del modelo ético-político. Una IA como [la francesa] Mistral es donde tenemos que poner esfuerzos. Y si no, debemos hacer modelos abiertos, que no diré que pueden hacerse con los 50 millones que dice [la empresa china] Deepseek que usó. Posiblemente sean 500, pero 500 con un modelo de cooperación y sabiendo destilar como lo hizo Deepseek.
P. Ir a remolque puede no ser un problema esta vez.
R. Con el Barcelona Supercomputing Center y el superordenador que se acaba de instalar en el País Vasco, España tiene supercomputación. No estoy diciendo que lo hagamos en tres años, sino que lo hagamos en franca cooperación europea. Si para eso hay que ayudar a financiar Mistral, adelante, hagámoslo. Tenemos una ventaja y es que la obsolescencia de la IA es rapidísima. Cada cinco o seis meses sale un modelo que amortiza al anterior. Juguemos el partido no siendo los que tenemos el mayor presupuesto, sino siendo los que tenemos la mayor convicción, el mayor legado y el mejor talento.
P. Se oye mucho que Europa es el lugar de la regulación y no de la innovación.
R. No es exactamente así. Cuatro de cada diez unicornios en Estados Unidos han tenido origen europeo. Si el 40% de los fundadores, los protagonistas, eran europeos, significa que hay talento. Aproximadamente 300.000 millones de euros se van cada año de Europa a Estados Unidos para financiar proyectos porque aquí no encuentran proyectos. A mí, si tengo talento y tengo dinero, la regulación no me estorba.
P. Pero ahora el dinero y el talento se van.
R. El talento se va porque todavía no tenemos un mercado de capitales estructurado. Y el dinero se va porque precisamente no encuentra verticales de talento donde invertir. Es un círculo vicioso. Resolvamos eso.
P. Sam Altman acaba de anunciar que ChatGPT tendrá contenido erótico. Grok, la IA de Elon Musk, hace tiempo que juguetea con la falta de normas y el sexo como reclamo. El esfuerzo por llegar al consumidor en EE UU está a años luz de lo que se oye en Europa…
R. Pueden estar también a años luz en decencia y en degeneración. Nosotros queremos una IA portable y ellos quieren una IA inherente, es decir, que la llevemos pegada al cuello en un colgante 24 horas. Eso es inherente porque está chupándome datos biológicos. Nadie lleva el móvil cuando se ducha o hace otras cosas. Y es el siguiente paso. Mi concepto de IA europea es una IA que nos sirva datos que mejoren nuestras decisiones. Su modelo de IA es que nuestros datos mejoren sus decisiones. En una, la IA es instrumental. En otra, la IA se convierte en sustancial. Esta es la diferencia. En un caso eres ciudadano aumentado y utilizas la IA. En otro caso te conviertes en un súbdito de la IA.
P. Son modelos distintos.
R. Estos modelos centrados en simpatía, en acercamiento, están basados en un modelo de captura de la atención. Lo que se persigue no es tu bienestar, lo que se persigue naturalmente es que tú entres en ello, que acabes siendo un adicto. Me da igual si un adicto al sexo, un adicto a la amistad porque estás muy solo.
P. Cuanto más rato estés con el bot mejor.
R. Eso es. Y el bot nunca será tu amigo porque es un pedazo de silicio. No hay bilateralidad, es una falsa bilateralidad. El bot no consciente, no te ha aceptado como amigo, simplemente está programado.
P. Propone un sistema de control para la IA llamado R2T2.
R. Sí, queremos que España cree una agencia, instituto, organismo, me da igual.
P. Ya está la Agencia Española de Supervisión de la IA en Coruña…
R. No, este sería de certificación algorítmica, que ponga un sello de usabilidad diciendo que una IA te va a servir y no te va a comer, no se va a entrometer, va a ser agéntica con límites. Para eso necesitamos una fórmula: R2T2. La primera R es revocabilidad. La cadena algorítmica tiene que ser revocable. La segunda R es de responsabilidad: quien produce, distribuye y utiliza en términos industriales la IA, es responsable civil y penalmente de las consecuencias. La primera T es transparencia y es muy sencillo: hay que abrir la caja negra como se abre la fórmula magistral de un medicamento. Y eso que lo vea este organismo público transnacional europeo. Y la segunda T es de trazabilidad porque las cadenas algorítmicas mutan y pueden estar programadas para un comportamiento y luego transformar su finalidad. Con eso más la supercomputación, en nanosegundos, según Mateo Valero, director del Barcelona Supercomputing Center, se puede certificar el 99% de modelos.
P. ¿También los modelos cerrados?
R. Solo si accedes a la caja. Este es un sello que no puede ser normativo, tiene que ser inicialmente al menos voluntario. Para que fuese normativo tendríamos que hacer una normativa europea y para eso ya tenemos la AI Act.
P. ¿Qué le parece ese reglamento?
R. Razonable. Yo no creo en el debate entre innovación y regulación. Es un reglamento flexible, que delimita un terreno de juego y que sobre todo en la parte de lo que las IA no pueden hacer, por ejemplo, reconocer biometría en la calle, es impecable.
Tecnología en EL PAÍS
