Diseña una superficie de aprobación de IA que los usuarios no ignoren: bloquea acciones peligrosas por defecto

Tu agente está a punto de eliminar datos, gastar dinero o enviar un mensaje, y el usuario ya ha aprendido a hacer clic en «Aprobar». En una prueba controlada con 1.053 testers de pago, las personas detectaron un comando peligroso el 13,6 % de las veces, mientras que el modo automático bloqueó el 89 % de los mismos comandos.

El rediseño con prioridad de bloqueo tiene cuatro movimientos:

• Clasifica las acciones irreversibles, destructivas o fuera del entorno.
• Diseña el estado de bloqueo como el producto.
• Mantén el modo manual como una vía de escape de un solo toque.
• Secuencia los valores predeterminados B2B con aviso al administrador.

La acción silenciosa es el valor predeterminado para el trabajo de bajo riesgo

Clasifica cada acción antes de diseñar el botón. Coloca el trabajo de bajo riesgo, reversible y dentro del entorno en un carril silencioso: redactar, resumir, buscar, guardar un borrador local o reordenar una lista. El estado final es que el agente complete la tarea y muestre un resultado compacto, en lugar de un modal de permisos.

Reserva la interrupción para acciones irreversibles, destructivas o fuera del entorno: eliminar datos, gastar dinero, enviar mensajes, escribir en producción o invocar una herramienta fuera del sandbox aprobado. Las acciones que el usuario puede deshacer rápidamente probablemente no necesiten una parada total.

Los planes Pro, Max y Team de Claude Code utilizaban el modo automático como valor predeterminado para nuevas sesiones desde el 14 de agosto. Anthropic planeaba hacer del modo automático el valor predeterminado para suscriptores Pro, Max y Team en las aplicaciones web, de escritorio y móviles de Claude durante la semana posterior al 22 de octubre.

Las sesiones aprobadas manualmente contenían daño no intencionado de severidad 7 o superior el 6,3 % de las veces, en comparación con el 2,4 % de las sesiones en modo automático. Registra con qué frecuencia aparece la interrupción y mantenla baja.

El estado de bloqueo es el producto

Diseña el estado de bloqueo antes de diseñar el estado de permiso. Un bloqueo debe indicar qué se detuvo, por qué se detuvo, cuál es la alternativa más segura y qué puede hacer el usuario a continuación. Un bloqueo completo es una tarjeta con una razón breve, una vista previa de la acción bloqueada y opciones claras: probar la ruta más segura o abrir el modo manual.

Cuando el clasificador del modo automático bloquea una acción, Claude suele encontrar una ruta más segura o consulta al usuario, y Claude Code recurre a las aprobaciones manuales después de tres bloqueos consecutivos o veinte bloqueos en una sesión. Usa ese patrón como un mínimo, no como un máximo.

Los equipos suelen diseñar la ruta de permiso y tratar el bloqueo como un mensaje de error. Los estados de bloqueo vagos hacen que los usuarios se asusten o hagan clic para continuar. Haz que el bloqueo sea lo suficientemente legible para que un usuario nuevo pueda entender el riesgo sin un manual.

El modo manual es una vía de escape de un solo toque

Mantén el modo manual como una vía de escape de un solo toque. Hazlo un control persistente, en lugar de una configuración oculta. El control es un interruptor o botón etiquetado con el lenguaje del usuario, como «Aprobar cada acción» o «Cambiar a manual». Los usuarios pueden entrar en modo manual desde cualquier estado de bloqueo, cualquier tarjeta de resultado o la vista principal del agente.

El modo manual es el derecho del usuario a tomar el volante cuando el juicio del agente parece demasiado amplio. Un modo manual de difícil acceso pide a los usuarios que confíen en el sistema con más de lo que pueden verificar.

Usa la regla de respaldo como señal de confianza. Cuando el sistema sigue bloqueando, debe dejar de adivinar y pedir una decisión humana. Registra los eventos de respaldo y revísalos con el mismo cuidado que dedicas a los errores.

Los valores predeterminados B2B requieren primero un aviso al administrador

Secuencia los valores predeterminados B2B con aviso al administrador. Cambia un valor predeterminado de todo el equipo solo después de dar a las personas responsables de la política la oportunidad de revisarlo. Envía el aviso por correo electrónico o consola de administración antes del cambio, con el alcance del valor predeterminado, las acciones que cubre y la forma de excluirse o configurar excepciones.

La implementación de Anthropic muestra la forma de esa secuencia. Los administradores de empresa de Anthropic recibirían un correo electrónico antes de que el modo automático se convirtiera en el valor predeterminado para sus organizaciones. El modo automático seguía siendo optativo para Claude Enterprise, la API de Claude, Claude Platform en AWS, Amazon Bedrock, Agent Platform de Google Cloud y Microsoft Foundry.

Para productos de consumo o de equipos pequeños, el aviso puede ser más breve, pero el principio es el mismo: el valor predeterminado debe ser visible, reversible y explicable. Los productos que pueden actuar en nombre de un usuario deben permitirle ver qué está permitido que haga el agente sin abrir un laberinto de configuraciones.

Vigila la tasa de finalización, los falsos bloqueos, los cambios a modo manual y el tiempo desde el bloqueo hasta la recuperación.