Haz que las recomendaciones de IA sean fiables mostrando la razón, alternativas, confianza y corrección

Una tarjeta de recomendación que se autoproclama la mejor coincidencia es una sentencia sin causa. Pide al usuario que confíe en el modelo antes de que el producto haya mostrado su trabajo. La confianza en una recomendación de IA se construye haciendo que la elección sea legible: por qué este elemento, qué otras opciones se consideraron, qué tan seguro está el sistema y cómo puede corregirlo el usuario. La pregunta de diseño es si la interfaz le da al usuario suficiente información para juzgar el resultado.

Explica el resultado, no el modelo

Un panel técnico puede mostrar detalles del modelo, pero la mayoría de los usuarios necesita la razón. Proporcionar explicaciones válidas para modelos de IA o aprendizaje automático aumenta la confianza de los usuarios empresariales en la fiabilidad de esos modelos. Haz que la explicación sea lo suficientemente específica para poder verificarla, pero lo suficientemente ligera para leerla. En las discusiones técnicas, la IA interpretable se refiere a modelos transparentes y la IA explicable se refiere a modelos de caja negra. La explicabilidad es más adecuada para conversaciones entre expertos, mientras que la interpretabilidad es más adecuada para conversaciones con no expertos. La tarjeta debe dirigirse a la persona que toma la decisión. La etiqueta importa menos que la necesidad del usuario: un cliente necesita una razón de recomendación que pueda contrastar con su propio contexto.

Construye la tarjeta en el orden que el usuario necesita

El rediseño es un pequeño conjunto de controles, construido en torno al punto de decisión. Colócalos donde el usuario está decidiendo, no en una página de ayuda. Aparecen antes de que el usuario se comprometa con la acción. Mantén los controles visibles en la misma vista que la recomendación, porque la confianza se pone a prueba en el momento de la elección.

• Expón la razón en lenguaje claro. Escribe la explicación como una frase corta que un no experto pueda verificar. Una buena razón nombra los tipos de entradas que impulsaron la elección y el objetivo para el que se le pidió. Si la razón depende de datos privados, nombra la categoría de datos, no los datos crudos.
• Muestra alternativas ordenadas con sus compensaciones. Un sistema autoexplicativo puede responder a las preguntas del usuario presentando las alternativas de acción que consideró y comparando sus ventajas y desventajas relativas. Si el usuario puede ver por qué la segunda opción perdió, la elección principal deja de sentirse arbitraria. Deja que la opción principal gane por un criterio visible.
• Calibra la confianza sin precisión falsa. Usa un lenguaje que se ajuste a la evidencia, como confianza alta, media o baja, en lugar de un decimal que implique certeza de laboratorio. Cambia la señal cuando cambian las entradas, para que el sistema responda al contexto en lugar de repetir una etiqueta fija. Si el modelo es incierto, dilo en la interfaz antes de que el usuario lo descubra.
• Añade un control de corrección que cambie el resultado. Los usuarios necesitan poder intervenir para cambiar un resultado cuando un sistema no les tiene sentido. Un control de corrección puede recopilar una breve razón y luego actualizar la recomendación. Usa el lenguaje del usuario en ese control y muestra qué cambió en el resultado actualizado. Haz que el control afecte al siguiente resultado, no que simplemente registre una queja.

Un conjunto creciente de opciones de código abierto respalda la IA explicable e interpretable, incluyendo AI Explainability 360 de IBM, InterpretML de Microsoft, SHAP y Alibi de Seldon. Úsalas para descubrir qué características importaron y luego traduce ese hallazgo en una frase que el usuario pueda evaluar. El modelo puede ser explicable; la tarjeta aún tiene que ser comprensible.

Mantén la corrección visible

Una recomendación que parece segura mientras oculta su lógica muestra un ganador, pero oculta la contienda. Los usuarios pueden aceptar el primer resultado y luego perder la confianza cuando el siguiente se sienta arbitrario. No entierras el control de corrección en la configuración. Si el usuario no puede cambiar el resultado, la explicación se convierte en una actuación. Coloca el control junto a la recomendación y deja que el siguiente resultado refleje la corrección de inmediato.