Meta har lansert Muse Image, den første bildegenereringsmodellen fra selskapets nyopprettede Superintelligence Labs. Ifølge Metas egne kunngjøringer er modellen nå tilgjengelig i Meta AI-appen, på Instagram og i WhatsApp, og den skal snart rulles ut til Facebook og Messenger. Muse Image er en del av en bredere familier av modeller som gradvis erstatter det tidligere Llama-lineupet.

Men lanseringen har allerede satt personvern på agendaen — særlig for europeiske og norske brukere.

Kan lage bilder av deg uten at du vet det

En av de mest omstridte funksjonene i Muse Image er muligheten til å referere til offentlige Instagram-kontoer direkte i en AI-prompt. Det betyr at hvem som helst kan bruke bilder fra din offentlige profil som kilde for å generere nye, hyperrealistiske bilder av deg.

Ifølge tilgjengelig informasjon om systemet vil den opprinnelige kontoeieren — altså personen som blir avbildet — ikke motta noe varsel om at innholdet deres er blitt brukt på denne måten. Funksjonen beskrives av kritikere som en form for «ansiktsjenbruk», og personverneksperter advarer mot potensialet for misbruk, inkludert produksjon av deepfakes.

Brukere av offentlige Instagram-kontoer kan bli «tagget» i AI-prompts for å skape hyperrealistiske bilder — uten at de varsles

Meta opplyser at systemet har sikkerhetsmekanismer som blokkerer forespørsler som bryter med plattformens retningslinjer, og at alle AI-genererte bilder utstyres med usynlige digitale vannmerker. Uavhengige eksperter har imidlertid tidligere påpekt at slike filtre langt fra er vanntette.

Metas AI lager bilder av deg uten å varsle deg - Bilde 1

Trent på 19 år med brukerdata

Kjernen i Muse Image er en treningsdataset bygget på offentlige innlegg, bilder, kommentarer og bildetekster fra Facebook og Instagram. Innsamlingen skal ha startet allerede i 2007, noe som betyr at modellen kan bygge på nesten to tiår med brukergenerert innhold.

Personvernorganisasjoner har særlig fremhevet at datasettet trolig inkluderer bilder av barn, publisert av foreldre eller barnet selv på et tidspunkt der ingen av partene visste at innholdet ville bli brukt til å trene kommersielle AI-systemer.

Opt-out, ikke opt-in — og det er problemet

Meta benytter seg av et såkalt opt-out-prinsipp for bruk av offentlig innhold til AI-trening. Det betyr at innholdet ditt automatisk kan brukes med mindre du aktivt velger det bort. Private Instagram-kontoer er unntatt, men offentlige kontoer — inkludert mange norske innholdsskapere, journalister og bedrifter — er som standard inkludert.

Her oppstår det en direkte spenning med europeisk personvernlovgivning. GDPR krever i utgangspunktet et klart rettslig grunnlag for behandling av personopplysninger. Meta har tidligere argumentert for at «berettiget interesse» er tilstrekkelig grunnlag — et argument personvernorganisasjonen NOYB har utfordret rettslig. Saken er ikke endelig avgjort.

I USA finnes ingen føderal lov som gir brukere rett til å reservere seg mot AI-trening basert på offentlige innlegg. I EU er situasjonen juridisk uavklart.

For norske brukere gjelder GDPR direkte gjennom EØS-avtalen. Datatilsynet har tidligere uttalt at norske brukere har rett til innsyn i og protest mot behandling av personopplysninger — men å utøve disse rettighetene i praksis er komplisert når dataene er vevd inn i en stor AI-modell og ikke enkelt kan spores eller slettes.

Manglende åpenhet skaper etiske spørsmål

En gjennomgående kritikk fra personverneksperter er at Meta ikke kommuniserer tydelig nok om nøyaktig hvilke data som brukes til hva. Det at AI-modellene fungerer som «svarte bokser» gjør det vanskelig — og i mange tilfeller umulig — å kreve spesifikke data slettet etter at modellen er trent.

Meta har på sin side forsikret om at sensitive kategorier som religiøs overbevisning, seksuell legning og helseopplysninger ikke brukes til annonsemålretting. Personvernorganisasjoner stiller seg skeptiske til dette, særlig i lys av selskapets historikk med datahåndtering.

Det er foreløpig ikke kjent om norske eller europeiske tilsynsmyndigheter har innledet formelle undersøkelser knyttet til Muse Image spesifikt.