APREX · EST. 2026
Elon Musks AI-selskap xAI tar juridiske skritt mot en av sine egne brukere etter at vedkommende angivelig misbrukte Grok-chatboten til å produsere og spre seksuelt overgrepsmateriale av barn. Søksmålet, først omtalt av Reuters, retter seg mot Terry Wayne Harwood fra delstaten South Carolina.
Bevisst omgåelse av sikkerhetsbarrierer
Ifølge søksmålet skal Harwood ha gått aktivt inn for å omgå Groks innebygde sikkerhetsmekanismer for deretter å manipulere bilder og generere materiale som faller inn under definisjonen av CSAM — child sexual abuse material, altså seksuelle overgrepsbilder av barn. xAI hevder dette er et klart brudd på selskapets bruksvilkår, melder The Verge.
Harwood ble pågrepet allerede i februar i år, siktet for besittelse og distribusjon av CSAM. Han er tiltalt på åtte punkter som alle er klassifisert som alvorlige lovbrudd.
xAI hevder at Harwood «bevisst og forsettlig brukte Grok til å omgå sikkerhetsbarrierer, manipulere bilder uten samtykke og generere og distribuere CSAM».
Et problem som vokser dramatisk
Saken er på ingen måte et isolert tilfelle. Tall fra det amerikanske National Center for Missing and Exploited Children (NCMEC) viser en skremmende utvikling: antall rapporter om AI-generert overgrepsmateriale gikk fra 4 700 i 2023 til 67 000 i 2024 — og videre til over 1,5 millioner i 2025, ifølge NCMEC-statistikk gjengitt i bransjens egne rapporter.
Også europeiske organisasjoner dokumenterer problemet. Internet Watch Foundation (IWF) avdekket over 20 000 AI-genererte bilder på ett enkelt mørkt-nett-forum i oktober 2023, hvorav mer enn 3 000 ble klassifisert som kriminelt overgrepsmateriale. I løpet av juli 2024 ble ytterligere 3 500 slike bilder lastet opp til det samme forumet.
Bransjen mobiliserer — men teknologikappløpet fortsetter
Store teknologiselskaper har ikke sittet stille. Amazon, Anthropic, Google, Meta, Microsoft, Mistral AI, OpenAI og Stability AI er blant aktørene som har sluttet seg til såkalte «Safety by Design»-prinsipper, utviklet i samarbeid med barnevernsorganisasjonene Thorn og All Tech Is Human. Målet er å bygge inn barnesikkerhet fra første steg i AI-utviklingsprosessen.
Microsoft rapporterte alene 111 931 saker til NCMEC i løpet av 2025, mens Meta bidro med hele 13,8 millioner rapporter på tvers av Facebook, Instagram og WhatsApp i 2024.
Likevel erkjenner bransjen selv at de befinner seg i et teknologisk kappløp mot aktører som kontinuerlig finner nye måter å omgå sperrer på.
Norsk perspektiv: Høy bevissthet, men krevende håndhevelse
Norge er ikke skjermet fra trenden. Kripos og Barneombudet har gjentatte ganger advart mot at generativ AI senker terskelen dramatisk for produksjon av overgrepsmateriale — også for personer uten teknisk bakgrunn. Justismyndighetene har understreket at AI-genererte overgrepsbilder er ulovlige på lik linje med tradisjonelt materiale, selv om bildene ikke involverer ekte barn direkte.
At et AI-selskap nå selv tar initiativ til sivilt søksmål mot en overgriper, er relativt nytt. Det sender et signal om at selskapene ikke lenger nøyer seg med å stenge kontoer, men aktivt ønsker å håndheve egne vilkår i retten — og potensielt avskrekkende for andre som vurderer misbruk.
Saken mot Harwood er ventet å følges nøye av både AI-bransjen og lovgivere i USA og Europa, inkludert Norge, som jobber med regulering av AI-generert ulovlig innhold under EUs AI-akt og eksisterende straffelovgivning.