Blog
Notas sobre la línea entre componentes probabilísticos y controles determinísticos.
-
Una auditoría en la que no hace falta confiar
Un log de auditoría completo no es evidencia si quien lo produjo puede reescribirlo. Ante un regulador, la integridad tiene que poder chequearla alguien que no confía en el proveedor.
-
El agente propone; el runtime aprieta el botón
Casi toda la gobernanza de agentes contiene a un agente que actúa libremente. La jugada más fuerte es no dejarlo actuar nunca: el agente propone y el runtime aprieta el botón.
-
El rechazo es una salida de control, no una conversación
Venkat Peri tiene razón: clasificar la intención no es un quality gate. En un dominio regulado, un chequeo de alcance sesgado a dejar pasar tampoco: el rechazo es una salida de control.
-
Una salida tipada no es una acción gobernada
Los modelos que responden con una opción calibrada abaratan las decisiones. El esquema garantiza la forma de la respuesta; quién autorizó actuar sobre ella es otra pregunta.
-
No se combate el probabilismo con probabilismo
Todos coinciden en que los agentes regulados necesitan controles determinísticos. Las fallas vienen de controles secretamente probabilísticos, y de no saber dónde va la línea.