Det som lenge har vært omtalt som et nisje- eller fremtidsproblem, viser seg å ha utviklet seg til en pågående krise i skolemiljøer verden over. En grundig gjennomgang utført av det amerikanske teknologimagasinet WIRED i samarbeid med analyseplattformen Indicator dokumenterer at nær 90 skoler og mer enn 600 elever allerede er direkte berørt av AI-genererte falske nakenbilder – såkalte deepfake-nakenbilder. Og problemet vokser.
Hva er omfanget?
Tallene er nedslående. Ifølge forskning fra Thorn – en nonprofitorganisasjon som jobber mot seksuell utnyttelse av barn – oppgir én av 17 tenåringer, tilsvarende rundt 6 prosent, at de har vært målrettet med slike bilder. Blant de som har skapt slikt innhold, innrømmer én av tre at de har delt bildene med medelever.
Globalt anslås det at 1,2 millioner barn fikk bildene sine manipulert til seksuelt eksplisitt innhold i løpet av ett enkelt år, fordelt på 11 land. I noen regioner er forekomsten så høy som ett av 25 barn. Rundt 40 til 50 prosent av elever i undersøkelser sier de er kjent med at deepfakes sirkulerer på skolen deres, ifølge kildene WIRED har henvist til.
Skolene er uforberedte
Et gjennomgående funn er at skoler sjelden har retningslinjer på plass når hendelsene inntreffer. Riana Pfefferkorn, policyforsker ved Stanford University, påpeker overfor WIRED at skoler typisk tas på senga, og at mange lærere og rektorer ikke engang kjenner til eksistensen av de såkalte «nudify»-appene – apper som med enkle tastetrykk kan generere falske nakenbilder av hvem som helst.
Deepfake-overgrep er overgrep, og det er ingenting falskt med skaden det forårsaker. — UNICEF
Professor Sandra Wachter ved Oxford Internet Institute er krass i sin kritikk av en reaktiv tilnærming: å vente til brukere blir tatt i ettertid er uansvarlig, siden bildene allerede er ute i verden og ofrene ikke kan gjøre noe ugjort, har hun uttalt ifølge forskningsgrunnlaget som er benyttet i saken.
Ofrene er overveiende jenter. Konsekvensene er alvorlige: psykisk skade, skade på omdømme og brudd på personvernet. Noen elever er så hardt rammet at de tvinges til å bytte skole.
Teknologien løper fra lovverket
UNICEF understreker i sine uttalelser at barn ikke kan vente på at lovgivningen tar igjen teknologiutviklingen. Det er et poeng som treffer hardt: i mange land, inkludert Norge, er rettsapparatet fortsatt i ferd med å avklare hvordan eksisterende lovgivning gjelder for AI-generert seksuelt innhold av mindreårige.
Kybersikkerhetsekspert Junade Ali argumenterer for at AI-modeller kan tilpasses for å redusere risikoen for at skadelig innhold produseres, og at sekundære AI-systemer kan overvåke og filtrere forespørsler. Han mener samarbeid mellom regulatorer og utviklere må skje tidlig i prosessen – ikke etter at skaden er skjedd.
Deteksjonsverktøy finnes – men er ikke utbredt
Det finnes faktisk tekniske løsninger som kan hjelpe skoler, selv om feltet er umodent. Verktøy som GAT Shield er designet for å overvåke skoleenheter og varsle administratorer i sanntid ved bruk av deepfake-nettsteder. Plattformer som Sensity AI oppgir deteksjonsnøyaktighet på mellom 95 og 98 prosent for manipulerte bilder og videoer, ifølge forskningsmaterialet i saken.
Likevel er terskelen for å ta i bruk slike verktøy høy for mange skoler – både kostnadsmessig og kompetansemessig. Melissa Stroebel, forskningsleder i Thorn, sier det direkte: tenk på hvor mange elever det er i et gjennomsnittlig klasserom. Det er én berørt elev per klasserom. Det betyr at hvert eneste lokalsamfunn opplever dette, og det er på høy tid at vi som samfunn responderer, gjengir WIRED hennes budskap.
Hva bør foreldre, skoler og myndigheter gjøre?
Ekspertene er samstemte om at løsningen krever innsats på flere nivåer samtidig:
For skoler: Etabler klare retningslinjer og beredskapsplaner før en hendelse inntreffer. Lær opp lærere og rektorer i hva deepfake-verktøy er og hvordan de brukes.
For foreldre: Snakk åpent med barn og ungdommer om hva deepfakes er, og om at det å lage eller dele slikt innhold er et overgrep – uavhengig av om bildene er «ekte» eller ikke.
For myndigheter: Klargjør lovverket, og sørg for at produksjon og distribusjon av AI-generert seksuelt innhold av mindreårige er tydelig kriminalisert. Støtt skoler med ressurser til forebygging og håndtering.
Krisen er global. Norske skoler og norske ungdommer er ikke skjermet fra appene, nettstedene eller de sosiale mekanismene som driver spredningen. Ifølge WIRED og Indicators analyse viser problemet ingen tegn til å avta av seg selv.