Diseña un agente de IA al que los usuarios puedan escribir sin perder la confianza

Un mensaje de un agente puede resultar útil o invasivo según una sola decisión: dónde debe llegar el mensaje. Si el agente avisa en el momento equivocado, el usuario deja de confiar en todo el producto. El enrutamiento de canal es la primera decisión de diseño: elegir la superficie antes de que el agente envíe.

OpenAI anunció el acceso a iMessage y RCS para ChatGPT Dot el 28 de octubre. El agente puede enviar mensajes proactivos a los usuarios con actualizaciones relevantes. El despliegue es una vista previa beta limitada a suscriptores de ChatGPT Pro en EE. UU. Linq, el proveedor de terceros utilizado para el canal de iMessage de ChatGPT Dot, afirma una latencia de salida P95 inferior a 120 milisegundos y un tiempo de actividad del 99,95 %. Los mensajes de iMessage y RCS de ChatGPT Dot se enrutan a través de la infraestructura en la nube de Linq antes de que OpenAI los almacene en el historial de conversación estándar de Dot.

El canal es la primera decisión de confianza

Un hilo de mensajes es una superficie estrecha. Transmite actualizaciones breves, no cada pensamiento del modelo. OpenAI describe el canal de mensajería de ChatGPT Dot como una conexión uno a uno, lo que significa que solo ese usuario puede escribirle al Dot y el agente no tiene acceso a mensajes de otras bandejas de entrada.

Enruta por contexto. Las actualizaciones de estado pueden enviarse por mensaje, pero las aprobaciones de pago no. Los recordatorios pueden enviarse por mensaje, pero las decisiones legales no. La prueba es sencilla: si el mensaje resultaría molesto en un chat grupal, probablemente no debería ser un mensaje proactivo.

Las notificaciones deben ser esperadas, no sorpresivas

Un aviso proactivo solo es útil cuando cumple una promesa. Si el agente envía un mensaje sobre una reunión, una entrega o una tarea que le corresponde, el usuario puede archivarlo. Si lo hace porque el modelo encontró algo interesante, el usuario siente que se ha cruzado un límite. El valor predeterminado es el silencio, y el usuario puede optar por más, no por menos.

Configura la cadencia de notificaciones en el propio canal. Un agente de mensajería que no puede callarse es un agente que será eliminado. El usuario debe poder ver qué tipos de mensajes llegarán, pausarlos o devolverlos a la app.

Las aprobaciones deben estar donde el usuario puede inspeccionar la acción

Cuando ChatGPT Dot necesita una aprobación explícita para una acción, envía un enlace por mensaje que abre la solicitud dentro de la app de ChatGPT. Eso mantiene la decisión de riesgo en un lugar donde el usuario puede ver la acción, el alcance y la ruta de deshacer.

El enrutamiento con supervisión humana debe enviar cambios destructivos en bases de datos al equipo propietario de la plataforma o de seguridad, y transacciones financieras que superen el umbral al responsable de los controles de transacción. El diseño de Governed Execution de Oracle otorga a un controlador de tiempo de ejecución la capacidad de permitir, bloquear, reducir, escalar o enviar una acción de IA propuesta a revisión humana.

Las acciones de IA de alto riesgo, incluidas las exportaciones de datos, los mensajes a clientes, los cambios de registros, el acceso privilegiado y las operaciones financieras, requieren controles de política más estrictos, aprobaciones, evidencia y preparación para revertir. El modelo de Governed Execution de Oracle exige comprobaciones previas a la ejecución para acciones de IA que puedan acceder a datos sensibles, invocar herramientas, cambiar el estado empresarial, exportar datos, enviar mensajes, activar flujos de trabajo o gastar presupuesto significativo.

La supervisión con intervención humana actúa como un mecanismo de auditoría en tiempo real que detecta errores probables del modelo antes de que los descubran los clientes o los reguladores. El tiempo de ejecución de IA confiable de Oracle exige que los procesos de auditoría utilicen evidencia visible en lugar de trazas de razonamiento opacas.

El límite debe ser visible

Un agente de mensajería debe declarar lo que puede ver: el hilo, la tarea, los archivos que se le han proporcionado. También debe declarar lo que no puede ver: otras bandejas de entrada, chats privados o sistemas a los que no se le ha otorgado acceso. Cuando el límite es visible, el usuario puede decidir qué compartir.

Publica el límite en el producto, no en una nota al pie. El primer mensaje señala los límites del canal. La pantalla de configuración muestra a qué puede acceder el agente. Si el agente no puede declarar el límite, el usuario lo inferirá, y la inferencia será peor. La pantalla de aprobación muestra lo que hará el agente si el usuario dice que sí.

• Enruta por contexto: una actualización de estado puede enviarse por mensaje; una aprobación de pago no.
• Configura la cadencia de notificaciones en el canal: el agente solo envía actualizaciones esperadas, y el usuario puede silenciarlas o pausarlas.
• Mantén las aprobaciones en la app: las acciones de riesgo llegan como un enlace que abre la decisión completa en la app.
• Publica el límite: el agente dice lo que puede ver, lo que no puede ver y dónde termina la conversación.