La dimisión de un joven investigador de Anthropic el pasado martes ha desatado un debate sobre cuándo podría la IA extinguir la civilización y cómo evitarlo. Casi todos los líderes y gurús del sector han dado este fin de semana sus opiniones entregadas, conspiranoicas o exaltadas. El veredicto, casi una semana después, parece ser que lo mejor por ahora es que la industria busque la manera de autorregularse.
OpenAI, Anthropic y Google conducen el intenso debate sobre los riesgos de esta tecnología hacia una autorregulación que controle la industria
La dimisión de un joven investigador de Anthropic el pasado martes ha desatado un debate sobre cuándo podría la IA extinguir la civilización y cómo evitarlo. Casi todos los líderes y gurús del sector han dado este fin de semana sus opiniones entregadas, conspiranoicas o exaltadas. El veredicto, casi una semana después, parece ser que lo mejor por ahora es que la industria busque la manera de autorregularse.
Sam Altman, presidente ejecutivo de OpenAI, cree que “tener reglas comunes para gestionar el riesgo de la frontera [la IA más avanzada] y así aprovechar al máximo sus beneficios nos parece buena idea”, ha escrito la madrugada del lunes en X, que se ha convertido en el foro de debate sobre este peligro. La idea no es nueva ni original. OpenAI, Anthropic y Google llevan hablando desde julio sobre cómo crear un órgano que fije estándares para la industria de la IA, según ha revelado The Information, medio especializado en Silicon Valley.
Un órgano así debería recaer en el Gobierno, pero Donald Trump y su asesor para la IA, David Sacks, ya han dicho que no están interesados en frenar ni regular nada. Sacks dice que prefiere dejar en manos del mercado la penalización por si algún producto se pasa de sus límites y crea problemas como ciberataques. “Adelante, marcad el ritmo de la frontera. Sois vosotros quienes la marcáis. La forma más fácil de no construir una superinteligencia es que os pongáis de acuerdo en no construirla. Exigir vuestro marco regulatorio preferido como precio por hacerlo parecerá un chantaje a la opinión pública y al sistema político”, ha escrito Sacks en la red X.
Las compañías tienen en cuenta que los demócratas ya persiguen una agenda mucho más severa sobre la regulación de la IA y pueden recuperar el Congreso de EE UU en noviembre, lo que les acercaría al desarrollo de una normativa más estricta. El expresidente Barack Obama acaba de pedir que su partido lidere el control de la IA. El senador Bernie Sanders ya ha redactado un proyecto de ley que prohíba todo avance hacia una superinteligencia. En este contexto, la autorregulación sería un mal menor para los gigantes tecnológicos.
Aunque las compañías punteras de EE UU pidan más autocontrol nacional, sí quieren la ayuda del Gobierno para que esos límites sean globales. “Donde vamos a necesitar la ayuda de nuestro Gobierno es en la coordinación internacional. Pero antes hay que hacer lo que esté en nuestra mano”, ha escrito Altman. Amodei también lo dejó claro: “Una parte esencial de marcar el ritmo dentro de las democracias es mantener la ventaja en IA sobre las autocracias lo más amplia posible”.
En medio del alud de opiniones de las últimas horas ha participado también Satya Nadella, presidente ejecutivo de Microsoft, que ha apoyado con un entusiasmo pequeño la idea de la autorregulación. “Nos parece bien la investigación, la concentración de esfuerzos y el ritmo pausado que hacen falta para que el alineamiento salga bien, planteado como objetivo de diseño desde el principio. También nos parecen bien ideas como la de los ‘evaluadores integrados’ y, en general, los intentos de crear los mecanismos necesarios para que todo esto no se quede en palabras”, escribe Nadella en redes. “La clave es que esto no puede estar controlado por un puñado de actores, sino que tiene que contar con una representación amplia de todo el ecosistema, de distintos países y de distintos ámbitos, incluida la universidad”, ha añadido.
Esa referencia velada a la “representación amplia” puede apuntar, además de a China, a algunas empresas estadounidenses que no están por frenar nada. Meta es la única de las más grandes que no ha hecho referencia a esta necesidad. Incluso Elon Musk, creador del chatbot Grok, dijo este sábado que Amodei tenía razón en sus dudas.
Ambas frases son referencias evidentes a China, el gran rival de EE UU en esta carrera. Desde China lo ven como un truco sacado del “manual de la Guerra Fría”, según un editorial del periódico estatal Global Times, que ve las palabras de Amodei como un intento de “frenar el desarrollo de la IA en China mediante barreras tecnológicas y monopolios regulatorios, mantener la hegemonía monopolística de Washington en tecnología punta”.
En este cruce de acusaciones, el Ministerio chino encargado de inteligencia ha dicho que la IA puede suponer un peligro para la seguridad interior del país: “Fuerzas hostiles y personas con intenciones ocultas están abusando de tecnologías de IA generativa para fabricar rumores políticos de forma masiva y barata”, ha dicho el ministro de Seguridad del Estado, Chen Yixin.
El Gobierno de España apuesta por algún tipo de acuerdo global, según ha expresado el ministro de Transformación Digital, Óscar López. “Donald Trump no ha escuchado a los que están desarrollando la IA, porque los punteros son cuatro, son los que saben de verdad lo que está pasando y ellos están diciendo que se puede escapar de su control”, ha dicho en TVE.
Uno de los roles que parece más aceptado si emerge este nuevo organismo de autocontrol es el de observadores independientes dentro de las compañías: “Los evaluadores integrados pueden comprobar hasta el último detalle si una empresa de IA está siguiendo de verdad las prácticas de entrenamiento, despliegue, funcionamiento y salvaguardas que dice seguir”, escribió Amodei en su mensaje.
Tecnología en EL PAÍS
