Blog
Notas sobre la línea entre componentes probabilísticos y controles determinísticos.
-
Los frameworks no son el runtime
Un agente puede pasar la demo y fallar igual en el deployment. Esa brecha la cierra un runtime que gobierne lo que el agente puede hacer, una capa por debajo del framework con el que lo armás.
-
Tu agente no necesita permisos. Necesita no existir fuera de ellos.
Casi toda la conversación sobre seguridad de agentes restringe lo que un agente puede hacer. La inversión: que la acción no exista fuera de lo que el contrato declara.
-
Cambiar lo que puede hacer tu agente no debería ser un despliegue
Una regla nueva necesita datos nuevos y lógica nueva. Qué debería mostrarte el cambio antes de regir, quién debería aceptarlo, y una corrida real, con lo que no cubre.
-
El agente de tu cliente no es de confianza por definición
Cuando el cliente trae su propio agente, el proveedor deja de controlar el modelo. Lo que todavía puede controlar es qué tiene permitido hacer ese modelo, y la evidencia de lo que hizo.
-
La seguridad de tu modelo no es tu gobernanza
Los laboratorios frontera retienen sus modelos más capaces por seguridad, calibrada a sus propios riesgos. Si operás agentes de IA en un negocio regulado, eso no reemplaza la tuya.
-
Una barrera también son tres afirmaciones
Poner una barrera determinística delante de un agente de IA es el instinto correcto. Pero a "con barrera" se le piden tres garantías: si se puede saltear, qué prueba su recibo y qué chequeó.
-
La separación de funciones es un deployment, no una política
Cuando una sola API y una sola credencial corren el agente y reescriben lo que puede hacer, colapsan dos fronteras de confianza. La separación de funciones son dos planos, no una política.
-
La ejecución durable conserva el estado. No conserva las reglas.
La ejecución durable conserva el estado de un agente a través de horas y fallas. Cuando la pausa es una acción con consecuencias que espera a un humano, reanudarla es un problema de autorización.
-
Un recibo firmado son tres afirmaciones, no una
Firmar las acciones de un agente se está volviendo lo mínimo. Pero a "firmado" se le piden tres garantías, integridad, trustlessness y veracidad, y no son una sola afirmación.
-
Persuasión versus gobernanza
¿Qué pasa si el usuario es más persuasivo que tu prompt? Por qué un agente que se defiende solo con su prompt es una negociación, no un sistema.
-
Una auditoría en la que no hace falta confiar
Un log de auditoría completo no es evidencia si quien lo produjo puede reescribirlo. Ante un regulador, la integridad tiene que poder chequearla alguien que no confía en el proveedor.
-
El agente propone; el runtime aprieta el botón
Casi toda la gobernanza de agentes contiene a un agente que actúa libremente. La jugada más fuerte es no dejarlo actuar nunca: el agente propone y el runtime aprieta el botón.
-
El rechazo es una salida de control, no una conversación
Venkat Peri tiene razón: clasificar la intención no es un quality gate. En un dominio regulado, un chequeo de alcance sesgado a dejar pasar tampoco: el rechazo es una salida de control.
-
Una salida tipada no es una acción gobernada
Los modelos que responden con una opción calibrada abaratan las decisiones. El esquema garantiza la forma de la respuesta; quién autorizó actuar sobre ella es otra pregunta.
-
No se combate el probabilismo con probabilismo
Todos coinciden en que los agentes regulados necesitan controles determinísticos. Las fallas vienen de controles secretamente probabilísticos, y de no saber dónde va la línea.