Lanza acciones de IA que los usuarios puedan revocar: gastar, enviar, eliminar, reservar

Si tu IA puede gastar, enviar, eliminar o reservar, el usuario necesita una vía de revocación antes del lanzamiento. Un modelo que reserva una mesa, paga la compra o elimina un archivo ha pasado de asistente a actor. La interfaz debe mostrar el límite antes de que ocurra la acción.

La confianza en estas funciones se construye en la superficie de control, no en la ficha del modelo. Los usuarios no necesitan entender el prompt. Necesitan saber qué puede hacer el agente, qué no puede hacer y cómo detenerlo. Trata cada acción irreversible como a un titular de tarjeta autorizado: aprobación por defecto, autonomía limitada, datos acotados por tarea, una identidad de agente separada y revocable, y un respaldo humano.

Walmart hace visible la autoridad del agente

El Walmart Agent Gateway se lanzó para gestionar transacciones y otras funciones para clientes que usan agentes de IA. El próximo mes, Agent Profiles otorgará a cada agente de IA su propio perfil de cuenta para que los clientes puedan distinguir las compras del agente de las propias. Los clientes pueden aprobar cada compra del agente individualmente o establecer un límite de gasto, con $50, $100 y $200 citados como ejemplos de límites, y pueden eliminar un perfil de agente cuando lo deseen.

El control por defecto exigirá aprobación para cada compra del agente de IA, aunque los clientes pueden permitir que un agente compre dentro de un presupuesto, como hasta $100. Las reglas del agente mantienen al agente dentro de las acciones previstas por el comprador, prohíben cambiar el método de pago del cliente, limitan el acceso a datos a lo que la tarea requiere y bloquean a los agentes que incumplen las reglas.

El Agent Gateway está diseñado para ayudar a los agentes a localizar los artículos habituales de un cliente, como su marca habitual de pan o leche, sin exponer al agente el historial de compras más amplio del cliente. El proceso de devoluciones se aplica cuando un agente no actúa como se pretendía. Esa vía debe estar en la superficie de control, no en soporte.

La auditoría de seis líneas es el rediseño

Asigna al agente una tarea acotada. Las seis líneas siguientes son la superficie mínima para cualquier función de IA que pueda gastar, enviar, eliminar o reservar. Cada línea cierra una forma distinta en que un agente puede sorprender al usuario: dinero, alcance, datos, pago, identidad y recuperación.

• La aprobación es el valor por defecto y la autonomía está limitada. Las acciones irreversibles esperan el consentimiento a menos que esté activo un límite definido por el usuario.
• La intención está acotada. La tarea designada es visible y las acciones fuera de alcance se bloquean.
• Los datos están acotados por tarea. Solo son legibles los registros que la tarea requiere.
• El acceso al pago se deniega. Ningún método de pago puede añadirse, cambiarse o seleccionarse más allá del aprobado.
• La identidad es revocable. Existe un perfil separado y el usuario puede pausarlo o eliminarlo.
• Existe un respaldo humano. Una persona puede revisar, detener o revertir la acción, con una vía de fallo visible.

Si falta una línea, el usuario queda obligado a inferir el límite a partir de una transcripción. Esa brecha es un riesgo de lanzamiento y debe ser visible en la interfaz.

El fallo común es el resumen confiado: mesa reservada. El usuario ve un resultado, no la autoridad que lo produjo. El rediseño es una superficie de dos partes. Primero, muestra la acción con las palabras del usuario: reservar, enviar, eliminar, pagar. Segundo, muestra el permiso que la permitió: aprobado, dentro del límite o bloqueado. La superficie debe nombrar ambos en la misma pantalla, antes del lanzamiento.

Convierte el respaldo en un control, no en una promesa

Un respaldo humano debe ser un control visible: pausar, revisar, revertir o escalar. Para acciones de gasto, envío, eliminación y reserva, debe ser parte de la superficie de control, no una corrección posterior a una queja. El agente puede ser rápido, pero el usuario debe tener siempre un control más fuerte.

Para las reservas, el respaldo es un control de modificación o cancelación. Los envíos necesitan un estado de borrador o una ventana de recuperación. Las eliminaciones necesitan un estado de papelera con una acción de restauración visible. El gasto necesita un recibo, un límite y una forma de impugnar el cargo.

Verifica la vía de revocación: ¿puede el usuario pausar, revertir o detener la acción sin un ticket, un abogado o una suposición?