Meta lanzó un nuevo y llamativo generador de imágenes AI en Instagram el 7 de julio que permitió a cualquier usuario mencionar la cuenta pública de otra persona y generar imágenes sintéticas del rostro de esa persona, sin necesidad de permiso ni notificación.
La plataforma retiró la herramienta tres días después, cuando la mayor agencia de talentos de Hollywood dijo que ya era suficiente.
“El nombre, imagen, semejanza, voz o trabajo creativo de nadie debería ser usado por un tercero, incluidos modelos de AI, sin un consentimiento claro y documentado”, la Creative Artists Agency, conocida como CAA, dijo en un comunicado emitido el 8 de julio. La poderosa agencia de talentos, que representa estrellas desde Beyoncé hasta Sabrina Carpenter, instó a Meta a revisar la herramienta de inmediato.
Esto es lo que la función, llamada Muse Image, realmente hacía. Desarrollada por Meta Superintelligence Labs, la división interna de investigación de AI de la compañía, permitía a cualquiera escribir el usuario de otro en un chat con Meta AI y generar “remixes” usando las fotos públicas de esa cuenta. Todas las cuentas públicas de Instagram de personas mayores de 18 años fueron activadas automáticamente, mientras que las cuentas privadas y las de menores fueron excluidas por completo.
Los usuarios podían desactivar la función, pero solo al encontrar la configuración ellos mismos; Meta la hizo opt-out, no opt-in. Y según la propia documentación de AI de la compañía, los usuarios nunca son notificados cuando alguien crea una imagen usando su semejanza.
CAA no se detuvo. “Hemos expresado nuestras preocupaciones a Meta en nombre de nuestros clientes, manifestando nuestra desaprobación y perspectiva sobre la necesidad de un enfoque más responsable,” la agencia dijo, solicitando que el consentimiento sea “la norma… no la excepción.”
Related: Wait, What? Mark Zuckerberg Thinks AI Can Be Used for Emotional Support?
SAG-AFTRA, el Screen Actors Guild-American Federation of Television and Radio Artists, intensificó las cosas el 9 de julio. “Meta ahora permite que cualquiera use tus fotos de Instagram en imágenes de AI sin tu consentimiento,” el sindicato advirtió a sus miembros, instando a todos en Instagram a optar por la exclusión de inmediato.
Meta retrocedió al día siguiente. “Nuestro objetivo era proporcionar una herramienta creativa útil y dar a las personas control sobre si su contenido público podía ser referenciado de esta manera,” un portavoz de Meta dijo. “Hemos escuchado los comentarios de que esta función no fue acertada, por lo que ya no está disponible.”
Ambas organizaciones dieron la bienvenida a la decisión. “Elogiamos a Meta por su rápida decisión de eliminar la función Muse Image,” CAA dijo, agregando que “poner los derechos individuales y el consentimiento al frente es esencial para construir tecnología responsable.”
SAG-AFTRA señaló algo similar. “Con los peligros de las réplicas digitales no consensuadas bien conocidos por todos, una función que fomente ese comportamiento es imprudente,” el sindicato dijo. “Agradecemos su descontinuación. Es lo responsable.”
Este no es el primer conflicto de Meta con AI y el consentimiento. Movieguide® ha cubierto el historial desigual de la compañía antes, incluyendo su Junta de Supervisión revisando reglas sobre imágenes deepfake no consensuadas después de que fotos explícitas de AI de mujeres reales circularon en Instagram, y la actriz Jenna Ortega describiendo las imágenes de AI “aterradoras” de sí misma que aparecieron en línea.
El patrón sigue repitiéndose: una empresa tecnológica lanza una función diseñada para el engagement, omite las preguntas más difíciles sobre el consentimiento y solo reconsidera una vez que actores, agencias o usuarios normales presionan lo suficiente. Muse Image duró cuatro días.
Para las familias cristianas que navegan por Instagram, el episodio merece una reflexión. Cada persona lleva una dignidad inherente que un ajuste “público” no cancela, y enseñar a los niños a preguntarse “¿querría que esto se hiciera con mi propia imagen?” hace más bien que cualquier control parental. Meta captó esto rápidamente: la próxima función AI predeterminada silenciosa podría no anunciarse tan claramente.
Read Next: This Legislation Protects Big Tech, Not Children, and That’s a Problem
