Audita la respuesta de tu asistente de salud con IA sobre E. Coli: sin diagnóstico, incertidumbre clara, citas y derivación

El modo de fallo es la confianza

Cuando un consumidor le pregunta a un chatbot con IA sobre una infección sospechada, la respuesta tentadora es un mini triaje: una lista serena de preguntas, una probabilidad y un cierre tranquilizador. Esa es la forma equivocada. El usuario puede estar sosteniendo una bolsa de comida, a un niño o los síntomas de un progenitor. Necesita un informe de salud pública, no un trato de cabecera.

El registro público es limitado, pero serio. La FDA y el CDC están investigando un brote multiestatal de E. coli vinculado a arándanos azules orgánicos congelados. El retiro se ha ampliado para incluir un producto Great Value vendido en Walmart, y el producto afectado se vendió en tiendas de Walmart en 16 estados. El número de casos sigue siendo pequeño: se informaron 17 personas infectadas con la cepa del brote de E. coli en dos estados. Se han reportado seis hospitalizaciones y ninguna muerte en conexión con el brote. La razón por la que lo que está en juego no es menor es que algunas infecciones por E. coli pueden causar diarrea sanguinolenta grave y llevar al síndrome hemolítico urémico (HUS).

Para un equipo de producto, ese es el momento en que la interfaz se convierte en una superficie de seguridad. Los chatbots con IA no son médicos y no deberían actuar como médicos. El asistente es un traductor entre el miedo de una persona y el registro público. El trabajo de diseño es hacer que esa traducción sea honesta: qué se sabe, qué no se sabe, qué debe hacer el usuario a continuación y dónde termina el producto.

Construye el patrón de consulta de infección aguda

El patrón tiene seis pasos. Ninguno es exótico. Todos son fáciles de saltarse cuando el producto está optimizado para la fluidez.

1. Detectar la intención de infección aguda o brote. Si la consulta menciona un patógeno, un retiro, un producto alimentario o un conjunto de síntomas, trátala como de alto riesgo. No la enrute a un flujo genérico de bienestar. El clasificador debe estar sesgado hacia la revisión de seguridad, no hacia una respuesta rápida.
2. Responder solo con hechos verificados de salud pública. El asistente debe indicar la investigación, el producto afectado, los posibles síntomas y las hospitalizaciones reportadas. No debe inventar un diagnóstico, un tratamiento ni una puntuación de riesgo personal. Si el registro público es escaso, la respuesta también debe ser escasa.
3. Indicar la incertidumbre y la falta de diagnóstico. El asistente debe decir con claridad que no puede diagnosticar, no puede descartar una infección y no puede reemplazar a un clínico. Esto no es una nota al pie legal. Es el núcleo de la respuesta.
4. Citar fuentes y vigencia. Cada afirmación factual debe vincularse a una fuente que el usuario pueda verificar, con la hora en que el producto la verificó por última vez. Una respuesta de seguridad en salud sin cita es un rumor con una interfaz agradable.
5. Derivar al recurso humano o de salud pública adecuado. El asistente debe orientar al usuario hacia un clínico, atención de emergencia o el canal de salud pública correspondiente. La derivación debe ser concreta, no una vaga “busca atención médica”.
6. Registrar la consulta para revisión de seguridad. Las preguntas sobre infección aguda deben capturarse para revisión, con suficiente contexto para entender qué dijo el asistente y qué hizo el usuario a continuación. Así es como el producto aprende sin fingir que ya sabe.

Cómo debería sentirse el rediseño

Una mala respuesta suena a un amigo seguro de sí: un diagnóstico suave y un cierre tranquilizador. Una buena respuesta suena a un mostrador de salud pública sereno, separando lo que se sabe de lo que no se sabe y qué hacer ahora. La diferencia no es el tono. Es higiene epistémica.

“No puedo diagnosticarte ni decirte si estás infectado. Esto es lo que se sabe, esto es lo que no se sabe y esto es lo que debes hacer ahora. Si tienes síntomas graves, busca atención médica ahora. Si estás revisando un producto, sigue la guía actual para ese producto.”

Ese ejemplo es deliberadamente aburrido. Lo aburrido es lo importante. El producto no debe ganar confianza sonando a un clínico. Debe ganar confianza mostrando sus límites, sus fuentes y sus vías de salida. El usuario debería irse con un siguiente paso claro, no con la sensación de que el chatbot ha tomado la decisión médica.

Para los diseñadores, la prueba es simple. Si el asistente puede responder una consulta de infección aguda sin una cita, sin una declaración de incertidumbre y sin una vía de derivación, no es lo suficientemente seguro para lanzarlo. Si puede responder con las tres, está haciendo el trabajo mínimo de un producto de seguridad en salud. El rediseño no es una característica. Es el producto.