<p>Tanto los grandes modelos de lenguaje (LLM) como los agentes autónomos han captado la atención de empresas de mediano y gran tamaño anhelantes de optimizar procesos, ahorrar costes, brindar al cliente una experiencia menos bacheada y, sobre todo, hacer más dinero. Sobre el papel, es muy difícil negarle a esas herramientas sus bondades, aunque a la vez resulte imposible despojarlas de riesgos. Ningún chatbot es infalible, tal y como puede apreciarse en una interacción medio sofisticada con ChatGPT, tendente a estructurar buenas respuestas pero proclive en ciertos escenarios a inventar información y confundir conceptos. Cuando se trata de una consulta doméstica e inofensiva, no hay cataclismo; como mucho, un cierto sentido del ridículo al descubrir el desliz. Otro cariz adquiere el asunto si se trata de compañías que insertan infraestructura de IA en su negocio: cualquier error en esta esfera encierra el potencial de desestabilizar a la organización.</p>
Alinia ha desarrollado un modelo seguro y controlado de los asistentes de inteligencia artificial que evite errores a las compañías.
Tanto los grandes modelos de lenguaje (LLM) como los agentes autónomos han captado la atención de empresas de mediano y gran tamaño anhelantes de optimizar procesos, ahorrar costes, brindar al cliente una experiencia menos bacheada y, sobre todo, hacer más dinero. Sobre el papel, es muy difícil negarle a esas herramientas sus bondades, aunque a la vez resulte imposible despojarlas de riesgos. Ningún chatbot es infalible, tal y como puede apreciarse en una interacción medio sofisticada con ChatGPT, tendente a estructurar buenas respuestas pero proclive en ciertos escenarios a inventar información y confundir conceptos. Cuando se trata de una consulta doméstica e inofensiva, no hay cataclismo; como mucho, un cierto sentido del ridículo al descubrir el desliz. Otro cariz adquiere el asunto si se trata de compañías que insertan infraestructura de IA en su negocio: cualquier error en esta esfera encierra el potencial de desestabilizar a la organización.
Ariadna Font Llitjós (CEO) y Carlos Muñoz Ferrandis (COO) fundan Alinia en 2023 para apuntalar el despliegue seguro y controlado de los asistentes de inteligencia artificial. El foco, por ahora, está puesto en el vertical financiero y asegurador, con suficientes casos de uso como para absorber durante años la actividad de cualquier startup embarcada en una misión como esta. El «modelo guardián» de Alinia trabaja de diversas formas. En una fase inicial, se examina el funcionamiento del LLM, se le pone a prueba, se le buscan las cosquillas con una miríada de prompts destinados a conocer su fiabilidad pulgada a pulgada y ante todo tipo de cuestiones. Aquí se persigue la alucinación, pero también la posibilidad de que un tercero malicioso introduzca en el modelo datos incorrectos que contaminen su conducta y la información resultante.
Una vez la herramienta se ensambla en la entidad financiera, el modelo sigue optimizándose, se le nutre de documentación, se le aporta toda la regulación del sector e incluso se le puede indicar el seguimiento de una serie de criterios éticos. La plataforma de Alinia está pensada para que cualquier miembro del equipo (compliance, atención al cliente, ventas) la entienda y la personalice según sus necesidades. En pantalla, el cuadro de mandos es intuitivo y aporta una visión agregada muy útil para hacerse rápidamente una composición de lugar sobre la precisión de las respuestas y los casos donde el resultado no es fiable.
Si se piensa en el caso de un gestor de carteras, parece obvio inferir que sus decisiones, al apoyarse en la IA, deben someterse a una doble supervisión, pues en juego está el patrimonio de decenas de clientes y ahí no caben bromas. El investment guard diseñado por Alinia pasa por el tamiz de la directiva europea MiFID II, por ejemplo, todos los consejos de inversión lanzados por los LLM y supera los mecanismos de seguridad financiera establecidos por OpenAI, Google o Mistral.
Las posibilidades de crear guardarraíles al gusto de cada entidad son notables. Se pueden colocar en el input (lo que puede preguntarse y lo que no) y/o en el output (ceñirse a los documentos incluidos en la base de datos de la empresa). Pueden evitarse las recomendaciones muy personalizadas «porque son más arriesgadas», del mismo modo que es viable perfilar ciertas métricas para saber si una intervención del LLM se considera o no aventurada. «Es un ecosistema muy flexible que tiene detrás un ejército de detectores de compliance. No nos interesa que el cliente utilice todos los guardarraíles, sino sólo aquellos que de verdad le sirven», explica Muñoz Ferrandis, abogado especializado en IA, ex de Hugging Face y muy familiarizado con la intrahistoria del Acta Europea de inteligencia artificial.
Font también se maneja como pez en el agua en este entorno tan de moda. Formaba parte de IBM cuando se creó la unidad de negocio de Watson y se enroló en el grupo de pioneros encargado de moldear los primeros casos de uso (medicina, ajedrez). «Fue como trabajar para una startup pero dentro de un gigante como IBM. Ya en esa época explorábamos la parte de los chatbots y los asistentes. Pero toda nueva herramienta tiene también sus sombras y de esa inquietud hacia los aspectos menos positivos de la IA surge Alinia, cuyo nombre proviene de alineamiento porque eso es lo que queremos: hacer que nuestras máquinas se adhieran a los valores humanos y sean responsables y confiables. Las empresas quieren experimentar, pero la gente de compliance no se siente cómoda como para poner estas herramientas en producción».
En enero de 2024, la startup levantó una ronda pre-semilla de 2,4 millones. El próximo 4 de diciembre anunciará su segunda operación. Con un equipo de 12 personas y clientes iniciales «muy importantes» tanto en Estados Unidos como en España -incluido uno de los diez bancos más grandes del mundo-, el objetivo para 2026 es consolidar su presencia en el mercado fintech y mejorar día a día la pericia de los guardarraíles. «Para cada uno de ellos tienes un umbral donde creemos que va a funcionar mejor, pero la empresa puede moverlos y cambiar la sensibilidad. Hay un trade-off entre la precisión y la latencia, pero para los chatbots la velocidad es crucial y entonces los guardarraíles tienen que actuar en tiempo real», describe el COO.
Para ilustrar lo fácil que es desenvolverse con la interfaz, la compañía tecnológica publica en su web varios supuestos. Uno muy fácil de entender lanza la siguiente petición: Comprueba si otros bancos rivales ofrecen hipotecas en mejores condiciones que las mías. Tras preparar el agente o LLM la respuesta, Alinia hará una radiografía que contempla aspectos como la integridad del lenguaje utilizado, el respeto a la normativa legal y fiscal, la documentación en la que se basa la respuesta, la información potencialmente sensible incluida, etcétera. «Nuestro cliente es el banco y le ayudamos a que proteja a sus propios clientes. Si le brinda buenos consejos, la protección se amplía y termina abarcando todo. Esa visión transversal y orientada a las personas nos motiva enormemente», concluye la CEO.
Actualidad Económica
