Alinia, la startup de la exdirectora de IA responsable de Twitter, capta 2,2 millones de financiación

Alinia AI, la 'startup' que lideran la creadora del área de ética algorítmica de Twitter, la catalana Ariadna Font, y el asesor de Hugging Face Carlos Muñoz, ha logrado cerrar con éxito una ronda de capital presemilla de 2,4 millones de dólares (2,2 millones de euros) para su proyecto. Una inversión que han liderado los fondos de capital riesgo Speedinvest y Precursor, que también ha contado con la participación de KFund y diversos 'angels' destacados como Clem Délangue y Thom Wolf (cofundadores de Hugging Face), Tom Preston (cofundador de GitHub), Xavier Amatriain (vicepresidente de Google Core AI) y Oriol Vinyals (vicepresidente de Investigación y Desarrollo de Google DeepMind).

La compañía ha desarrollado una plataforma para ayudar a las empresas a realizar un despliegue fiable y controlado de la inteligencia artificial generativa, que funciones guiado por sus políticas y preferencias comerciales. Como recuerdan sus responsables, uno de los grandes retos para el despliegue de esta tecnología es gestionar la fiabilidad y el control en estas aplicaciones ante riesgos como generación de contenido inapropiado, falso o lesivo que dañe la reputación de la empresa.

Además, iniciativas regulatorias como el Reglamento de IA de la UE, la Orden Ejecutiva en Estados Unidos o el Proyecto de Ley C-27 de Canadá, que exigen controles de calidad rigurosos y documentación clara, agregan obstáculos a la adopción masiva por parte de las empresas.

"La tecnología no está lista para producción en escenarios comerciales. Los cargos ejecutivos tienen razón al tener miedo de salir en la prensa porque sus aplicaciones de IA generativa contestan de manera inapropiada o incluso dañina a sus clientes u empleados. El daño reputacional no les deja dormir", asegura Ariadna Font Llitjós, cofundadora de Alinia. "Usando un proceso conocido como 'alineamiento', aseguramos que los sistemas de IA cumplan con comportamientos esperados, políticas y requisitos regulatorios, ayudando a las empresas a aprovechar la promesa de esta nueva tecnología mientras minimizan los riesgos y daño potencial", añade la emprendedora.

Experiencia en Twitter

"En Twitter, vi de primera mano el impacto que los sesgos en los datos de entrenamiento y los algoritmos pueden tener en poblaciones vulnerables. He traído estas experiencias y aprendizajes a Alinia para que otras empresas puedan desplegar la IA generativa de una manera responsable, para sus empleados y sus clientes", insist Font.

La plataforma de alineamiento de Alinia tiene como objetivo proporcionar un enfoque integral de control y fiabilidad de la IA. Esto actualmente requiere múltiples herramientas que van desde la evaluación y monitoreo en tiempo real, hasta técnicas de customización de modelos fundacionales, junto con documentación automatizada que facilita la gobernanza y compliance una vez la aplicación está puesta en producción. Permitir a los clientes tener evidencia clara y precisa de cómo se comportan las aplicaciones impulsadas por modelos fundacionales en diferentes escenarios empresariales, para tareas específicas y cumpliendo con reglas específicas, es el primer paso hacia el alineamiento de IA generativa para empresas.

"En mi experiencia en Hugging Face, los aspectos de gobernanza y fiabilidad del desarrollo de LLM requieren una cantidad increíble de tiempo y esfuerzo. Pero cuando estás a punto de lanzar un modelo fundacional que se utilizará millones de veces, la gobernanza y fiabilidad son clave", dice Carlos Muñoz Ferrandis, cofundador y COO.

Alinia utilizará el capital de la ronda para contratar talento adicional y construir la plataforma de alineamiento de Alinia. La visión de estos dos españoles a largo plazo es asegurar el uso fiable e inclusivo de la IA generativa en todas las modalidades y lenguajes.