Teknologigiganter slår alarm

To av verdens mektigste AI-laboratorier, OpenAI og Anthropic, har tatt et uvanlig skritt og underskrevet et felles brev rettet mot amerikanske folkevalgte. Ifølge Wired går brevet ut på at myndighetene må styrke kontrollen med syntetiske DNA-sekvenser — genetisk materiale som potensielt kan utnyttes til å utvikle biologiske masseødeleggelsesvåpen.

Brevet er også signert av en rekke fremtredende AI-ledere og vitenskapspersoner, noe som gir oppropet tyngde langt utover de to selskapene alene.

AI gjør det enklere å designe biologiske komponenter — og det stiller helt nye krav til hvem som faktisk kan spore hva som produseres

Hva er egentlig problemet?

Syntetisk DNA er kunstig fremstilte genetiske sekvenser som kan bestilles hos kommersielle leverandører og brukes i legitim forskning. Men de samme sekvensene kan — i feil hender — potensielt benyttes til å konstruere farlige patogener eller styrke eksisterende biologiske trusler.

Kunnstig intelligens gjør det i dag enklere enn noensinne å designe slike sekvenser, noe som dramatisk senker terskelen for aktører som ønsker å misbruke teknologien. Det er nettopp dette spennet mellom teknologisk mulighet og regulatorisk beredskap som nå bekymrer de som har underskrevet brevet.

OpenAI og Anthropic krever strengere kontroll av biofarlig AI-teknologi - Bilde 1

Eksisterende sporingsmetoder strekker ikke til

Dagens verktøy for å spore og verifisere syntetiske DNA-sekvenser er teknologisk sofistikerte, men langt fra fullstendige. Metoder som neste generasjons sekvensering (NGS) regnes som en gullstandard for å analysere genetiske redigeringer, men er kostbare og krever avansert bioinformatikk-støtte.

Verktøy som PlasmidHawk — utviklet av forskere ved Rice University — kan i dag identifisere laboratoriet som har laget en gitt sekvens med rundt 76 prosents treffsikkerhet, og klarer å peke ut riktig lab blant ti kandidater i 85 prosent av tilfellene. Det er lovende, men langt fra tilstrekkelig for robust biologisk sikkerhet.

AI som tveegget sverd

I samme periode som AI hjelper forskere med å designe nye proteiner og biologiske komponenter, brukes maskinlæring også i overvåkingsarbeidet. Algoritmer benyttes til sekvensgjenkjenning, variant-identifisering og oppdagelse av genetiske mønstre som kan indikere farlige sekvenser.

Dette spenningsforholdet — der de samme teknologiene brukes både til å skape og til å kontrollere — er kjernen i bekymringen som nå løftes frem av bransjen selv.

AI-industrien advarer nå myndighetene mot farer som AI-industrien selv er med på å skape

Krav om lovgivningstiltak

Det er ikke vanlig at kommersielle teknologiselskaper aktivt ber myndighetene regulere sin egen bransje strengere. At både OpenAI og Anthropic — som ellers er kjente konkurrenter — nå samler seg bak et felles krav, signaliserer at alvoret oppleves som reelt, ifølge Wired.

Brevet oppfordrer konkret til bedre systemer for sporing av hvem som bestiller syntetiske DNA-sekvenser, strengere krav til leverandører i markedet, og tettere koordinering mellom teknologi- og helsesektoren i arbeidet med å avdekke potensielt farlig bruk.

Om, og i hvilken grad, lovgiverne vil følge opp oppfordringen, gjenstår å se.