En resumen

  • El nuevo modelo de IA de Meta, Muse Image, permite a los usuarios crear imágenes realistas de otros usuarios de Instagram etiquetándolos en una solicitud.
  • Los usuarios cuyo contenido se utiliza como fuente no son notificados.
  • El modelo ha sido entrenado con publicaciones públicas desde 2007, incluyendo contenido de niños.
  • En la UE, el GDPR otorga derechos más sólidos, pero Meta ya ha enfrentado desafíos legales por parte de organizaciones de privacidad.

Meta ha lanzado Muse Image, el primer modelo de generación de imágenes de los recién creados Superintelligence Labs de la compañía. Según los propios anuncios de Meta, el modelo ya está disponible en la aplicación Meta AI, en Instagram y en WhatsApp, y pronto se implementará en Facebook y Messenger. Muse Image forma parte de una familia más amplia de modelos que están reemplazando gradualmente la anterior línea de Llama.

Sin embargo, el lanzamiento ya ha puesto la privacidad en la agenda, especialmente para los usuarios europeos y noruegos.

Puede crear imágenes tuyas sin que lo sepas

Una de las funciones más controvertidas de Muse Image es la capacidad de referenciar cuentas públicas de Instagram directamente en un prompt de IA. Esto significa que cualquiera puede usar imágenes de tu perfil público como fuente para generar nuevas imágenes hiperrealistas de ti.

Según la información disponible sobre el sistema, el propietario original de la cuenta —es decir, la persona que aparece en la imagen— no recibirá ninguna notificación de que su contenido ha sido utilizado de esta manera. La función es descrita por los críticos como una forma de «reutilización facial», y los expertos en privacidad advierten sobre el potencial de abuso, incluida la producción de deepfakes.

Los usuarios de cuentas públicas de Instagram pueden ser «etiquetados» en prompts de IA para crear imágenes hiperrealistas, sin ser notificados

Meta informa que el sistema cuenta con mecanismos de seguridad que bloquean las solicitudes que infringen las políticas de la plataforma, y que todas las imágenes generadas por IA se equipan con marcas de agua digitales invisibles. Sin embargo, expertos independientes han señalado anteriormente que dichos filtros están lejos de ser infalibles.

La IA de Meta crea imágenes tuyas sin avisarte - Bilde 1

Entrenado con 19 años de datos de usuario

El núcleo de Muse Image es un conjunto de datos de entrenamiento construido a partir de publicaciones públicas, imágenes, comentarios y subtítulos de Facebook e Instagram. La recopilación habría comenzado ya en 2007, lo que significa que el modelo puede basarse en casi dos décadas de contenido generado por el usuario.

Las organizaciones de privacidad han destacado especialmente que el conjunto de datos probablemente incluye imágenes de niños, publicadas por padres o por el propio niño en un momento en que ninguna de las partes sabía que el contenido se utilizaría para entrenar sistemas de IA comerciales.

Opt-out, no opt-in — y ese es el problema

Meta utiliza un principio de «opt-out» para el uso de contenido público en el entrenamiento de IA. Esto significa que tu contenido puede ser utilizado automáticamente a menos que lo excluyas activamente. Las cuentas privadas de Instagram están exentas, pero las cuentas públicas —incluyendo muchos creadores de contenido, periodistas y empresas noruegas— están incluidas por defecto.

Aquí surge una tensión directa con la legislación europea de protección de datos. El GDPR exige, en principio, una base legal clara para el tratamiento de datos personales. Meta ha argumentado anteriormente que el «interés legítimo» es una base suficiente, un argumento que la organización de privacidad NOYB ha impugnado legalmente. El caso aún no ha sido resuelto.

En EE. UU. no existe una ley federal que otorgue a los usuarios el derecho a oponerse al entrenamiento de IA basado en publicaciones públicas. En la UE, la situación legal no está clara.

Para los usuarios noruegos, el GDPR se aplica directamente a través del acuerdo del EEE. La Autoridad Noruega de Protección de Datos ha declarado anteriormente que los usuarios noruegos tienen derecho a acceder y oponerse al tratamiento de datos personales, pero ejercer estos derechos en la práctica es complicado cuando los datos están entrelazados en un gran modelo de IA y no pueden ser rastreados o eliminados fácilmente.

La falta de transparencia genera preguntas éticas

Una crítica recurrente de los expertos en privacidad es que Meta no comunica con suficiente claridad qué datos se utilizan exactamente y para qué. El hecho de que los modelos de IA funcionen como «cajas negras» hace que sea difícil —y en muchos casos imposible— exigir la eliminación de datos específicos una vez que el modelo ha sido entrenado.

Meta, por su parte, ha asegurado que categorías sensibles como las creencias religiosas, la orientación sexual y la información de salud no se utilizan para la segmentación de anuncios. Las organizaciones de privacidad se muestran escépticas al respecto, especialmente a la luz del historial de la compañía en el manejo de datos.

Por el momento, no se sabe si las autoridades reguladoras noruegas o europeas han iniciado investigaciones formales relacionadas específicamente con Muse Image.