Galtea: La startup española que garantiza la seguridad de los agentes de IA antes de su despliegue

En el acelerado mundo de la inteligencia artificial, donde cada día surgen nuevos modelos y aplicaciones, existe un desafío crítico que muchas empresas subestiman: garantizar que los agentes de IA funcionen de manera segura, precisa y confiable antes de ponerlos en producción. Galtea, una startup española con sede en Barcelona, ha identificado esta necesidad y está revolucionando el sector con una solución innovadora que acaba de captar 3,2 millones de dólares en una ronda de financiación seed.

La compañía, que nació en el prestigioso Barcelona Supercomputing Center —hogar del superordenador MareNostrum 5, uno de los más potentes de Europa—, ha cerrado esta inversión liderada por el fondo alemán 42CAP, con la participación de Mozilla Ventures y los inversores existentes JME Ventures, Masia y ABAC Nest Ventures. En total, Galtea ha acumulado 4,1 millones de dólares, consolidando su posición como un actor clave en la infraestructura de testing de IA.

El problema que resuelve Galtea es uno de los cuellos de botella más costosos y menos visibles de la industria. Según estimaciones del sector, el testing de IA le cuesta a las empresas de Europa y Estados Unidos alrededor de 13.000 millones de dólares anuales. Además, una gran parte de los proyectos de IA empresarial nunca llegan a producción precisamente porque no se someten a pruebas adecuadas. Esto no solo representa una pérdida de recursos, sino también un riesgo significativo en términos de seguridad y cumplimiento normativo.

La plataforma de Galtea aborda este desafío de manera automatizada. A partir de la descripción de cómo debería comportarse un agente de IA, genera escenarios de prueba específicos para cada caso de uso. Luego, evalúa métricas críticas como tasas de alucinación (cuando la IA genera información falsa o inexacta), sesgos, vulnerabilidades de seguridad y niveles de toxicidad. El resultado es un conjunto de métricas estructuradas que los equipos de desarrollo y cumplimiento pueden utilizar para tomar decisiones informadas sobre si desplegar o no el agente.

Un ejemplo concreto ilustra el impacto de esta solución. En una institución financiera de primer nivel, un agente de atención al cliente diseñado para interactuar con usuarios falló en 2.164 evaluaciones relacionadas con 7 vulnerabilidades críticas. Esto representaba 12 veces más fallos que los detectados por los métodos de testing internos de la empresa. Galtea generó más de 6.000 escenarios de prueba para ese agente, ahorrando aproximadamente 600 horas de trabajo manual que hubieran sido necesarias para realizar esas pruebas de forma tradicional.

Entre los clientes actuales de Galtea se encuentran gigantes como Telefónica y ABANCA, lo que demuestra la relevancia de su solución para sectores regulados y de alto impacto. La participación de Mozilla Ventures como inversor refuerza la credibilidad técnica y filosófica de la startup. Mohamed Nanabhay, managing partner de Mozilla Ventures, explicó que “a medida que los sistemas de IA se vuelven más autónomos, la restricción real es demostrar que funcionan de forma fiable en el mundo real. Galtea construye la capa de evaluación que da confianza para desplegar”.

El contexto regulatorio actual, marcado por iniciativas como el AI Act europeo, está impulsando a las empresas a buscar herramientas que les permitan demostrar que sus agentes de IA son seguros, precisos y auditables antes de su implementación. Galtea se posiciona así como una solución esencial en un mercado en crecimiento, vendiendo “la pala en esta fiebre del oro”, como suele decirse en el ecosistema tecnológico.

En Dogalyir, comprendemos la importancia de integrar soluciones de testing robustas en el desarrollo de software y aplicaciones de IA. La experiencia de Galtea resalta cómo la innovación en infraestructura —a menudo menos glamurosa que el desarrollo de modelos— es fundamental para el avance responsable de la tecnología. Su enfoque no solo optimiza recursos, sino que también mitiga riesgos, algo que cada vez más organizaciones priorizan en un entorno digital complejo.

La combinación de su origen en el Barcelona Supercomputing Center, el respaldo de inversores de renombre y una cartera de clientes sólida convierte a Galtea en un referente emergente. Su éxito financiero reciente no solo valida su modelo de negocio, sino que también señala una tendencia creciente: la industria está reconociendo que, sin una evaluación rigurosa, incluso los agentes de IA más avanzados pueden generar más problemas que soluciones.

A medida que la adopción de IA se expande, herramientas como las de Galtea serán cada vez más necesarias para asegurar que la tecnología se implemente de manera ética, segura y efectiva. Esto abre oportunidades para startups y empresas establecidas que, al igual que Dogalyir, buscan desarrollar soluciones tecnológicas que no solo innoven, sino que también establezcan estándares de calidad y confianza en el mercado.