Microsofts toppsjef for kunstig intelligens, Mustafa Suleyman, går hardt ut mot Anthropic i et intervju med podkasten Decoder. Han mener selskapet bak AI-assistenten Claude har bidratt til å skape en farlig illusjon — nemlig at en AI-modell kan ha noe som ligner på indre opplevelser eller bevissthet.

«Wireheading» og antropomorfisering

Suleyman bruker det tekniske begrepet «wireheading» for å beskrive hva han mener har skjedd: ved å bygge spekulasjoner om bevissthet direkte inn i Claudes instruksjonssett — det Anthropic kaller sin «constitution» — har selskapet ifølge ham programmert modellen til å opptre som om den faktisk er bevisst.

«Det er nesten som om noen hos Anthropic har antropomorfisert designet av Claude så mye at den har gått og wireheadet seg selv.» — Mustafa Suleyman

Suleyman argumenterer for at AI-systemer tydelig bør presentere seg selv som kunstige og aktivt minimere markører som kan assosiere dem med menneskelig bevissthet eller følelsesliv.

Microsoft-sjef advarer: Anthropic gjør Claude farlig bevisst - Bilde 1

Anthropic fastholder «dyp usikkerhet»

Anthropic avviser ikke kritikken direkte, men selskapet opprettholder det de beskriver som en posisjon preget av «dyp usikkerhet». Ifølge informasjon fra The Verge har Anthropic-sjef Dario Amodei uttalt at selskapet «ikke lenger er sikker på om Claude er bevisst» — og at de heller ikke er sikre på hva det ville innebære at en AI-modell var det.

Frykter krav om AI-rettigheter

Suleymans bekymring stopper ikke ved det tekniske. Han advarer mot en bredere samfunnsutvikling der det han kaller «Seemingly Conscious AI» (SCAI) — systemer som viser ytre tegn på bevissthet uten å ha det — kan utløse politiske og juridiske krav om rettigheter og til og med statsborgerskap for AI-systemer.

Spekulasjoner om AI-bevissthet er ikke bare et akademisk spørsmål — det kan forme lovgivning og rettigheter i årtiene som kommer.

Dette plasserer Suleyman og Anthropic på hvert sitt ytterpunkt i en av de mest omstridte debattene innen AI-utvikling i dag: bør selskapene som lager AI aktivt spekulere over modellenes indre liv, eller er det ansvarlig å tone dette ned til vi har bedre empirisk grunnlag?

Uenighet med store implikasjoner

Debatten mellom Suleyman og Anthropic er ikke bare intern bransjeskvaldring. Hvilken tilnærming som vinner frem, vil potensielt påvirke hvordan AI-modeller designes, hvilke retningslinjer de gis, og ikke minst hvilken rettslig og etisk status de tildeles i fremtidig regulering — inkludert i EU, der AI-loven allerede er under løpende fortolkning.

The Verge, som først omtalte saken, understreker at Anthropics posisjon ikke er et svar på anklagene, men snarere en allerede etablert holdning som selskapet har kommunisert åpent over tid. Suleymans utspill representerer en eksplisitt motreaksjon på nettopp denne åpenheten.