Startup de IA · Europa · 2026 → hoy · Full stack
Evaluación de agentes de IA
Empresas que ponen agentes de IA frente a sus clientes sin saber cómo pueden fallar. Desarrollo full stack de una plataforma que prueba agentes de IA de forma automática y reporta cada falla.
Contexto
Una startup europea construye herramientas para que las empresas puedan confiar en los agentes de IA que ponen frente a sus clientes.
Qué construí
Trabajo en el desarrollo full stack de su plataforma de evaluación: la interfaz, la API y el modelo de datos. La plataforma prueba un agente de forma automática y agrupa lo que encuentra por tipo de riesgo: respuestas inventadas, intentos de que se salte sus reglas, datos personales que no debería revelar y desvíos de lo que la empresa le permite.
Cada falla queda registrada para que la revisen tanto el equipo técnico como el de cumplimiento.
Con qué
TypeScript, React y Node.
Resultado
Una plataforma que busca las fallas de un agente antes de que las encuentren sus usuarios. Hoy es mi trabajo principal.
Tecnologías
- TypeScript
- React
- Node