Lanza funciones de IA con contenido de terceros sin una crisis de consentimiento

Un diseñador lanza una función generativa que puede tomar prestado del contenido público de otros usuarios. El lanzamiento parece rutinario hasta que llega la primera queja: ¿por qué se usó mi foto?

Meta lanzó Muse Image el martes en meta.ai, en Instagram Stories en Estados Unidos y en WhatsApp en determinados territorios internacionales. Retiró Muse Image de Instagram el viernes, tres días después de su presentación. El valor predeterminado conllevaba el riesgo.

El contenido determina el valor predeterminado de consentimiento

Clasifica el contenido antes de elegir un mecanismo de consentimiento. El texto público, las fotos públicas, los mensajes privados y los rostros identificables no representan el mismo riesgo. Las fotos de perfil conllevan riesgo de parecido, las fotos públicas conllevan riesgo de referencia y los mensajes privados conllevan una exposición diferente.

Pregúntate qué puede hacer el sistema con el contenido, no solo de dónde proviene. El texto público puede ser seguro de citar. Una foto pública puede no ser segura de regenerar. Un mensaje privado es un riesgo diferente. La respuesta cambia la interfaz de consentimiento.

Hecho, se ve como una tabla breve: tipo de contenido, origen, visibilidad, sensibilidad y quién puede resultar dañado. No lleves la función a revisión hasta que la tabla nombre el daño.

El opt-in afirmativo es el valor predeterminado más seguro

Elige opt-in afirmativo cuando el contenido sea personal, identificable o susceptible de ser transformado. Para funciones generativas que tocan contenido de terceros, el valor predeterminado debe ser opt-in afirmativo con un aviso visible en el momento del uso, no un opt-out oculto. Muse Image hizo disponibles por defecto los perfiles públicos de Instagram de usuarios mayores de 18 como referencias de IA, requiriendo que los usuarios entraran en la configuración de la cuenta para desactivar la función. Meta no alertó a los usuarios cuando el material de sus perfiles públicos se usó como referencia para Muse Image.

Creative Artists Agency (CAA) pidió a Meta que hiciera la protección el valor predeterminado y exigiera opt-in antes de que Muse Image pudiera usar la imagen o el parecido de una persona. SAG-AFTRA declaró que usar las imágenes de los usuarios de Instagram sin un opt-in explícito era inaceptable. CAA emitió una declaración de seguimiento tras la retirada del viernes elogiando la decisión de Meta.

El opt-out asume que el usuario encontrará la configuración, la entenderá y actuará antes del daño. La cadena es débil. El opt-in pide un sí en el punto donde el sí importa. También le da al equipo un registro de auditoría limpio.

Un registro de consentimiento completo especifica a quién se puede usar, cómo puede decir que sí, dónde se almacena el sí y cómo puede retirarse. Si la respuesta es que pueden desactivarlo más tarde, para.

Los equipos a menudo tratan el contenido público como permiso. La visibilidad pública no equivale a consentimiento para ser una referencia, un estilo, un rostro o una fuente para un nuevo activo. La revisión debe detectar esa brecha antes del lanzamiento.

El aviso debe estar en el momento del uso

Coloca el aviso donde el usuario pueda ver la consecuencia. Una página de políticas está demasiado lejos. La incorporación pierde el momento. Un menú de configuración oculta la elección. El prompt, la vista previa o la pantalla de generación deben decir qué se está tomando y en qué se convertirá.

El aviso debe nombrar la fuente y la salida. Si la función puede usar una foto, di foto. Las mismas etiquetas simples aplican a cualquier otra fuente. Un lenguaje vago hace que el usuario haga el trabajo del producto.

El aviso terminado se lee de forma clara: Esto usará tu foto pública para crear una nueva imagen. El usuario puede continuar, rechazar o ajustar el alcance. El usuario no debería tener que buscar la respuesta.

Un valor predeterminado documentado es el artefacto de lanzamiento

Documenta el valor predeterminado antes del lanzamiento. Escribe la clase de contenido, el mecanismo de consentimiento, la ubicación del aviso, la ruta de retirada y el responsable que puede responder preguntas después del lanzamiento. Un valor predeterminado es una decisión de producto, no una nota al pie legal.

Incluye un plan de reversión. Si el valor predeterminado es incorrecto, el equipo necesita una forma de dejar de usar el contenido, eliminar las salidas generadas y avisar a los usuarios afectados. Un valor predeterminado sin plan de reversión es una promesa que el producto no puede cumplir.

La lista de verificación de lanzamiento debe ser legible por un ingeniero nuevo sin consultar a un abogado. Debe decir quién está incluido, quién está excluido, qué ve el usuario y qué pasa cuando dice que no.

• Clasifica el contenido y nombra el daño.
• Elige opt-in afirmativo sobre opt-out.
• Coloca un aviso conspicuo en el momento del uso.
• Documenta el valor predeterminado y la reversión antes del lanzamiento.

Incluye el mismo estándar en la lista de verificación de lanzamiento y haz que el equipo lo firme.