Guardrails y supervisión

Un agente autónomo sin límites es un riesgo. Los guardrails son las barandillas que evitan que se descontrole o cause daño.

Límites duros

• Máximo de iteraciones: corta los bucles infinitos.
• Presupuesto y timeout: techo de tokens/costo y de tiempo.
• Alcance de herramientas: solo las permitidas, con permisos mínimos.

Validación y control humano

• Validar entradas de cada herramienta (nunca confíes en el LLM a ciegas).
• Acciones destructivas (borrar, enviar, pagar, desplegar) requieren confirmación humana.
• Human-in-the-loop: pausar el grafo y pedir aprobación en los puntos críticos.
• Auditoría: registrar cada acción y decisión del agente.