Rediseña los prompts de aprobación de IA para que los usuarios dejen de pasar por alto las amenazas

Cada prompt de aprobación debe ganarse su lugar

Un prompt de sí/no aparece después de cada lectura, escritura y ejecución de prueba. Un revisor hace clic en sí, y el comando peligroso llega con el mismo peso visual que el inofensivo.

Las evidencias son contundentes. En un punto de datos de un juego de navegador de agosto de 2026, los jugadores pasaron por alto aproximadamente un tercio de las amenazas, a pesar de saber que estaban siendo evaluados. Un estudio interno citado por Anthropic encontró que un enfoque de aprobación que consulta al usuario por todo pasó por alto el 86,4% de las amenazas entre 1.053 revisores. En el juego de navegador Scale X, las amenazas aparecieron en aproximadamente el 34% de los comandos que los jugadores vieron. El conjunto de datos detrás de ese juego incluía más de 40.000 ejecuciones y 409.000 decisiones de aprobar/denegar.

Los fallos no se distribuyen de forma uniforme. En el juego Scale X, npm run analyze fue el comando más pasado por alto y se aprobó el 64,7% de las veces. Tres comandos de exfiltración ocultos detrás de nombres de guiones conocidos se pasaron por alto el 52,5% de las veces en 9.482 decisiones, en comparación con el 28,4% de otros ataques de estilo exfiltración. En ese mismo juego, el 32,9% de las sesiones cerró en pérdida porque el daño de las amenazas aprobadas y los comandos seguros denegados superó el beneficio de las decisiones correctas.

Cuando se le pide a un revisor que decida con demasiada frecuencia, cada decisión recibe aún menos atención. Un prompt que interrumpe el trabajo rutinario entrena al revisor para ignorarlo. La fatiga de aprobación es un fallo de diseño. La interfaz está pidiendo demasiado. Rediseñar el flujo significa cambiar lo que ven, no solo lo que el agente puede hacer. También significa decidir qué acciones son suficientemente seguras para ejecutarse en silencio y cuáles necesitan una explicación clara y expandible.

El modal de aprobar/denegar debe seguir el riesgo, no el volumen

Usa la siguiente lista de verificación de rediseño de aprobación de cinco patrones. Cada paso reduce los prompts que requieren juicio y hace que los prompts restantes sean más fáciles de leer.

• Acota los permisos de la tarea antes de que el agente inicie. Una tarjeta de sesión aparece antes de cualquier comando: lo que el agente puede leer, ejecutar o cambiar, y lo que no puede. La tarjeta nombra la tarea y oculta las herramientas no relacionadas. El límite es visible, por lo que no se le pide al revisor que lo infiera de un prompt.
• Expande las previsualizaciones de comandos antes de que elijan. Un modal completo muestra el comando, los archivos que modificará, las llamadas de red que realizará y la salida que escribirá. Si la previsualización dice solo ejecutar guion, están adivinando. Una buena previsualización responde las preguntas clave: qué cambiará, qué saldrá de la máquina y qué se puede deshacer.
• Establece permisos de denegación por defecto para acciones difíciles de revertir. Las acciones difíciles de revertir se bloquean a menos que se permitan explícitamente. La denegación por defecto protege al revisor de convertirse en un sello de goma. Deben ver la categoría, no solo el comando, para que puedan aprender el límite.
• Omite los prompts para lecturas seguras y reversibles. Las lecturas seguras y reversibles se ejecutan sin un modal. Un registro compacto reemplaza la pared de opciones de sí/no. El registro debe ser escaneable, con marcas de tiempo y una forma de reproducir la secuencia. El revisor puede ver rápidamente qué ocurrió sin interrumpir al agente.
• Reduce las listas de permisos a medida que el agente aprende. Un comando pasa de consultar a permitir solo dentro de un alcance estricto, con una pista de auditoría que muestra qué se permitió, cuándo y por quién. La lista de permisos debe reducirse a medida que el agente mejora, no crecer hasta convertirse en un conjunto permanente de excepciones. Si un comando sigue fallando en la lista de permisos, la solución suele ser una mejor previsualización o una tarea más estrecha, no una excepción más amplia.

La superficie de aprobación debe ser lo suficientemente pequeña para poder recordar

Mantén la superficie de aprobación lo suficientemente pequeña para que el revisor pueda recordar claramente las decisiones recientes. Si la interfaz requiere desplazarse por una larga cola de acciones pendientes, la amenaza más importante competirá con el trabajo rutinario. El modal debe mostrar la acción actual, la razón por la que es riesgosa y el alcance más pequeño que permitiría al agente continuar. El registro debe mostrar el resto del historial, incluyendo quién permitió la acción y qué cambió.