Gobernanza de agentes de IA
Respuesta corta: la gobernanza es decidir por adelantado quién puede hacer qué con tus agentes: quién los despliega, qué pueden tocar, cómo se registra cada decisión, cuándo interviene un humano y quién responde cuando algo sale mal. No es burocracia — es lo que permite tener más agentes sin más sustos.
Las cuatro preguntas de la gobernanza
- ¿Quién decide? Un dueño por agente. Sin dueño, nadie actualiza permisos cuando cambia el negocio — y nadie responde cuando falla.
- ¿Qué está permitido? Políticas por acción, no por buena voluntad: datos que un agente puede leer, montos que puede mover, comunicaciones que puede enviar.
- ¿Cómo se sabe qué pasó? La bitácora: cada decisión y cada acción reconstruibles después. Es la diferencia entre «el agente hizo algo raro» y «el agente eligió X porque Y a las 14:03».
- ¿Cuándo interviene un humano? La ruta de escalamiento: casos irreversibles, montos altos, señales de confusión. Definida antes, no improvisada en el incidente.
Gobernanza y guardrails: la pareja
Los guardrails ejecutan los límites en cada acción; la gobernanza define cuáles límites existen y por qué. Un guardrail sin gobernanza es un candado cuya llave nadie administra; gobernanza sin guardrails es una política que nadie implementa.
Lo mínimo viable (y suficiente)
- Inventario vivo: lista de agentes con dueño, objetivo y alcance de datos. Media página.
- Regla de despliegue: nada nuevo a producción sin evals que pasen — conecta directo con la evaluación.
- Bitácora por defecto: activada, con retención definida, revisada en cada incidente.
- Escalamiento escrito: la lista corta de lo que siempre sube a un humano.
Con eso operas con confianza. Lo demás — comités, auditorías formales, certificaciones — llega cuando la superficie lo pide, no antes.
Preguntas frecuentes
- ¿Gobernanza es lo mismo que seguridad?
- Se complementan pero no son lo mismo. La seguridad protege cada acción (permisos, guardrails, validación); la gobernanza responde las preguntas de arriba: quién puede desplegar agentes, con qué aprobación, con qué registro, bajo qué política de retención y quién responde cuando algo sale mal. Sin gobernanza, la seguridad es una colección de candados sin dueño.
- ¿Qué debe tener una bitácora de agente para servir de verdad?
- Por cada tarea: el objetivo recibido, cada decisión con su justificación breve, cada herramienta llamada con argumentos y resultado, y la salida final. Suficiente para reconstruir el porqué sin ahogar el almacenamiento: los payloads grandes se referencian, no se vuelcan. Una bitácora que no permite responder «¿por qué hizo eso?» no es bitácora, es decoración.
- ¿Cómo empiezo si soy un equipo pequeño?
- Con el mínimo que sobreviva: un inventario de agentes (qué existen, quién es dueño, qué tocan), una regla de aprobación para acciones nuevas, bitácora activada por defecto y una lista corta de casos que escalan a humano. La gobernanza crece con la superficie; lo que no sobrevive el lunes no cuenta.
Último paso de la ruta
Todo lo anterior, funcionando todos los días: operación, observabilidad e incidentes — AgentOps.