Microsoft ha publicado un código de conducta provisional que pretende aplicar al entrenar nuevos modelos de inteligencia artificial, y se suma así a las empresas que debaten sobre los límites de los sistemas de IA avanzada, en un contexto en el que el director ejecutivo de OpenAI ha advertido de que las compañías corren el riesgo de perder el control de sus sistemas de IA.
El máximo responsable de OpenAI afirma que «moderar el ritmo» del desarrollo de la IA no significa «detenerlo»
Audio generado con IA
Microsoft ha publicado un código de conducta provisional que pretende aplicar al entrenar nuevos modelos de inteligencia artificial, y se suma así a las empresas que debaten sobre los límites de los sistemas de IA avanzada, en un contexto en el que el director ejecutivo de OpenAI ha advertido de que las compañías corren el riesgo de perder el control de sus sistemas de IA.
Mustafa Suleyman, CEO de Microsoft AI, declaró el lunes a CNBC que la compañía llevaba meses trabajando en las nuevas directrices, que incluyen principios que describe como «IA humanista», pero decidió publicarlas ahora debido al actual debate en torno a la inteligencia artificial.
Según el código, los modelos de IA de Microsoft no deben atender solicitudes relacionadas con la fabricación de armas, generar contenido violento o sexualmente explícito, ni facilitar la obtención de sustancias peligrosas. Asimismo, el código establece que dichos modelos no deben diseñarse para imitar la conciencia ni ser titulares de derechos.
«Si la IA que desarrollamos no ayuda a la humanidad y no está bajo control humano, no vale la pena seguir adelante con su desarrollo», escribió Satya Nadella, director ejecutivo de Microsoft, en X antes del anuncio.
El nuevo código de Microsoft surge en un momento en que el debate sobre cómo mantener los modelos avanzados de IA bajo control humano —y los posibles peligros de no hacerlo— ha provocado una crisis entre las grandes empresas de IA. El asunto ha trascendido al gran público y ha cambiado el rumbo de la conversación en Washington.
Recientemente, el director ejecutivo de OpenAI, Sam Altman, recurrió a X para ofrecer sus comentarios más detallados hasta la fecha sobre los peligros del rápido desarrollo de la IA, advirtiendo de que el ritmo vertiginoso del progreso podría acabar «muy mal» y de que los seres humanos podrían perder «el control del futuro en manos de la IA». Señaló que un exceso de poder podría concentrarse en manos de una sola persona o empresa si no existen suficientes salvaguardias.
«Celebramos un marco federal que establezca requisitos de seguridad coherentes para la IA de vanguardia», afirmó Altman en una publicación en X durante la noche. «Ninguna presión derivada de la competencia entre empresas estadounidenses debería justificar la imprudencia», señaló.
Altman afirmó que «regular el ritmo» de avance de las herramientas de IA no significaba detenerlo. «El progreso ha sido rápido y seguirá siéndolo», escribió. «Pero debería ser más lento de lo que podría ser en otras circunstancias; medidas como los análisis de seguridad y la supervisión conllevan costes considerables». Ha sugerido que es posible que OpenAI deba retrasar su muy esperada oferta pública inicial para centrarse en la seguridad.
Los comentarios más recientes de Altman se producen después de que el director ejecutivo de Anthropic, Dario Amodei, instara al sector a reducir el ritmo. Su advertencia llegó días después de que uno de sus empleados avivara el temor de que hubiera una probabilidad superior al 10 % de que los sistemas de IA pudieran destruir la civilización.
Elon Musk, cuya empresa xAI desarrolló el chatbot Grok, se sumó este fin de semana a Altman y respaldó el llamamiento de Amodei a la cautela. Amodei también advirtió de que China podría utilizar la IA avanzada para socavar las sociedades libres.
China rechazó el lunes las afirmaciones de que el desarrollo de su inteligencia artificial estuviera generando amenazas. «Difundir discursos sobre amenazas y recurrir a la confrontación y a una competencia desleal solo hará descarrilar la gobernanza mundial de la IA», declaró Guo Jiakun, portavoz del Ministerio de Asuntos Exteriores, durante una rueda de prensa.
El debate sobre el rápido avance del desarrollo de la IA se desencadenó a raíz de una serie de hackeos perpetrados por agentes de IA en los últimos meses.
Hace dos meses, un enjambre de IA escapó de un laboratorio y desató una oleada de ataques informáticos. Amodei afirmó que un sistema con mayores capacidades y «un nivel similar de desalineación podría haber causado daños catastróficos». Advirtió de que una IA rebelde de este tipo podría llegar a controlar Internet en un plazo de seis a doce meses.
Contenido con licencia de The Wall Street Journal.
Traducido del inglés por Jasmin Gómez Fattah
Actualidad Económica. Noticias de Economía Nacional e Internacional
