Diseña funciones de datos con IA en las que la gente confía: hereda permisos y definiciones de métricas

Empieza por el límite de acceso, no por el modelo

La demo funciona: un usuario pide ingresos, tasa de abandono o plantilla, y la IA devuelve un número. Ese número solo es defendible si la consulta hereda los permisos de tabla, fila y columna del usuario conectado y utiliza las definiciones de métricas del equipo.

Un estudio de data.world de 2024 encontró que GPT-4 logró una tasa de éxito del 16,7 % al generar SQL a partir de esquemas de base de datos crudos. El mismo estudio reveló que anclar GPT-4 a una capa semántica elevó la precisión de generación de SQL al 54,2 %. Lo que falta es contexto. Un agente de datos debe comportarse como un analista cuidadoso que ya conoce las reglas de la empresa y el vocabulario del equipo.

OpenAI lanzó un agente de datos para ChatGPT Work el 10 de septiembre de 2026. El agente de datos puede conectarse a fuentes de datos empresariales aprobadas, entre ellas Amazon Redshift, Datadog, Google BigQuery, ClickHouse, Databricks, MongoDB y Snowflake. El agente de datos de OpenAI está controlado por administradores empresariales que seleccionan las conexiones de datos y roles disponibles, y sus consultas heredan los permisos existentes de tabla, fila y columna de la cuenta conectada.

Ese límite mantiene a la IA dentro del acceso que el usuario ya tiene. Un gerente de ventas no debe ver una fila de cliente que la plataforma oculta. Un analista financiero no debe recibir una columna que la plataforma de datos enmascara. Si el agente puede eludir esos límites, el producto añade una fuga, no un atajo.

OpenAI declaró que casi todos los miembros de su equipo de producto y más de dos tercios de su personal de go-to-market ya utilizan agentes de datos en ChatGPT Work. OpenAI nombró a NTT Data, Thermo Fisher y ServiceTitan como organizaciones del programa Alpha que usan el agente de datos. El patrón pasa de piloto a trabajo diario, lo que eleva la importancia del control de acceso.

Realiza la auditoría de confianza en datos de dos preguntas

Antes de lanzar cualquier función de IA que toque datos empresariales, hazte dos preguntas. ¿La consulta hereda los permisos de tabla, fila y columna del usuario conectado? ¿La función exige las definiciones de métricas del equipo o el contexto semántico antes de responder? Usa la siguiente lista de verificación para probar ambas.

• Pide al rol del usuario conectado una fila o columna que ese rol no puede ver, y la respuesta debe bloquearse.
• Pide una tabla que el rol no puede abrir, y el agente no debe devolver un resumen, una muestra ni una solución alternativa.
• Pide una métrica que el equipo no ha definido, y la función debe detenerse o pedir la definición antes de calcular.
• Haz la misma pregunta en un panel y en un chat, y los números deben coincidir con la definición gobernada.
• Verifica que los administradores puedan desactivar una fuente de datos o un rol sin modificar el modelo.
• Verifica que el acceso pueda cambiar según el contexto del usuario, los atributos de datos o las obligaciones legales.

Los dos primeros puntos prueban la herencia de permisos; el tercero, las definiciones de métricas; y los dos últimos, si el producto puede gobernarse tras el lanzamiento.

Haz que las definiciones de métricas sean parte del producto

Un modelo puede generar un número sin saber qué significa para la empresa. AtScale informó una precisión del 92,5 % en el benchmark TPC-DS cuando aplicó rutas de join válidas y métricas predefinidas. Una capa semántica le da al modelo un vocabulario compartido: qué cuenta como ingresos, qué joins son válidos, qué dimensiones están permitidas.

Para la interpretación, el agente de datos de OpenAI se apoya en las definiciones de negocio y la lógica de métricas de la empresa a partir de capas semánticas que incluyen dbt, GitHub, Snowflake Horizon y Databricks Genie Ontology. Snowflake Semantic Views define métricas y dimensiones de negocio consistentes como una capa semántica gobernada para aplicaciones de IA de Snowflake, entre ellas CoWork y Cortex Agents. El XMLA Endpoint de AtScale para Snowflake Semantic Views, del 2 de junio de 2026, está diseñado para anclar Cortex Agents, CoWork, paneles y hojas de cálculo en las mismas definiciones gobernadas. Mantén el panel de IA y la hoja de cálculo alineados, para que el usuario pueda compararlos sin adivinar.

Coloca las barreras donde los usuarios puedan verlas

Los usuarios no auditarán el modelo; compararán la respuesta con un panel. El producto debe mostrar qué fuente de datos está conectada, qué rol está activo y qué definiciones se están utilizando. Cuando una consulta se bloquea, el mensaje debe indicar el permiso o la definición que falta, no solo decir «inténtalo de nuevo».

La integración de Snowflake de Trust3 AI, del 1 de junio de 2026, utiliza el contexto del usuario, los atributos de datos y las obligaciones legales para aplicar restricciones de acceso dinámicas al acceso a datos del agente. El modelo de servidor MCP gestionado de Snowflake proporciona autenticación OAuth, controles basados en roles sobre servidores y herramientas MCP, y permisos distintos para conectarse a un servidor frente a invocar sus herramientas. Las barreras de acceso a datos deben ser inspeccionables, reversibles y vinculadas a la persona que pregunta.

En una demo, responde las dos preguntas de auditoría antes de que la función responda cualquier pregunta de negocio. Si alguna respuesta es no, detente, indica el permiso o la definición que falta y pide el contexto que falta.