Cómo diseñar agentes de IA supervisables: presencia, acceso y rutinas

En la pantalla de un producto, un agente persistente gana supervisión cuando el usuario puede saber qué está haciendo, hasta dónde puede llegar y por qué comenzó. El patrón tiene tres partes: presencia, acceso y rutinas. Cada parte ofrece al usuario una forma de revisar el estado sin convertirse en el operador.

Haz que la presencia sea legible antes de que el usuario pregunte

Define el directorio antes de añadir controles. El directorio debe mostrar los agentes que persisten entre sesiones, no solo el último hilo. Mantén el vocabulario visible lo suficientemente pequeño para que un usuario pueda nombrar los objetos principales sin un manual. El diseño de Grok Bot de xAI redujo el vocabulario expuesto del sistema de IA a cinco conceptos centrales. Grok Bot organiza el producto en torno a Bots persistentes en lugar de conversaciones desechables. La pantalla de inicio debe permitir al usuario saber qué agente es responsable, en qué está trabajando y si está en espera.

Limita el directorio a un número que el usuario pueda seguir de verdad. Una lista larga de agentes se convierte en una carga cuando el usuario no puede distinguir cuál necesita atención. xAI estableció límites de cuenta de aproximadamente 50 Bots y seis para chats de grupo. Un directorio escaneable mantiene al agente activo, al agente en espera y al agente finalizados fáciles de distinguir.

Muestra la presencia como estado, no como una animación de carga. Una interfaz de agente persistente necesita un indicador de presencia que sobreviva entre tareas y le diga al usuario cuál es la próxima acción humana. Grok Bot usa el avatar del Bot para mostrar seis estados: inactivo, pensando, trabajando, en espera, bloqueado y terminado. Una mirada rápida debería responder la pregunta sin abrir un hilo. Si el usuario no puede saber si el agente está esperando a un humano, el sistema de presencia ha fallado.

Ofrece niveles de acceso para que la supervisión no se convierta en operación

Expone los niveles de acceso al espacio de trabajo del agente en un orden gradual. El usuario debe poder ver que se está trabajando, observarlo sin salir de la conversación principal y tomar el control solo cuando se requiera una acción humana. El diseño final de computadora de Grok Bot ofrece tres niveles de acceso al espacio de trabajo del Bot. La misma vista usa un indicador de barra de título morada, un panel lateral fijo para observar y una toma de control a pantalla completa cuando el Bot necesita ayuda. Una versión funcional permite al usuario revisar el estado, permanecer en el chat o intervenir sin aprender un modo de operación separado.

Nombra los niveles de acceso para que el usuario pueda predecirlos. Estado le indica al usuario que el agente está activo. Vista previa le permite observar artefactos sin alterar el flujo. Toma de control está reservada para autenticación, juicio o un paso que el agente no puede realizar de forma segura. El usuario debe saber en qué nivel se encuentra y por qué está ahí.

El fallo común es hacer de la toma de control el único camino de acceso. Entonces, los usuarios o evitan el espacio de trabajo o son arrastrados a él en el peor momento. Un patrón de supervisión necesita una forma de bajo esfuerzo para observar, una de esfuerzo medio para inspeccionar y una de alto esfuerzo para operar.

Inicia el trabajo desde rutinas, no desde prompts

Construye el trabajo programado del agente como un objeto de primera clase, no como un trabajo cron oculto. Una rutina debe ser algo que el usuario pueda nombrar, inspeccionar, pausar y eliminar. Grok Bot trata las Rutinas como trabajo permanente activado por un reloj o un evento, de modo que una sesión puede iniciarse desde un calendario, un evento u otro bot. El usuario no tiene que inventar el primer prompt.

Haz visible el disparador. Muestra el reloj, el evento o el agente upstream que inició la sesión. Ese detalle permite al usuario decidir si continúa el trabajo sin pedir una explicación. Una tarjeta de rutina puede nombrar el disparador, la última ejecución y la próxima ejecución esperada.

Prueba la transición antes de lanzar autonomía. Pregunta qué pasa cuando el agente está bloqueado, cuando el usuario cierra el panel y cuando una rutina se inicia mientras el usuario está desconectado. La interfaz debe hacer evidente la próxima acción humana, incluso cuando el usuario regresa más tarde. Un estado bloqueado puede nombrar el paso faltante, una rutina pausada puede reanudarse y una toma de control puede devolver limpiamente al agente.

Mantén un registro breve de lo que el agente hizo, a lo que accedió y qué cambió. El registro debe ser legible para una persona que no inició la sesión, y debe responder qué pasó, por qué pasó y qué puede hacer el usuario a continuación antes de que comience la próxima ejecución.