Noen av verdens mektigste teknologiledere har satt sine innbyrdes rivalisering til side. I et felles åpent brev oppfordrer de amerikanske folkevalgte til å vedta ny lovgivning som skal gjøre det vanskeligere å bruke kunstig intelligens i utvikling av biologiske våpen — og som potensielt kan forhindre en global pandemi, ifølge brevet gjengitt av The Verge.

Toppsjefer går samlet til Kongressen

Blant signatarene finner vi Dario Amodei fra Anthropic, Sam Altman fra OpenAI og Mustafa Suleyman fra Microsoft. Det er ikke hverdagskost at disse tre selskapene opptrer som én stemme — konkurransen dem imellom er intens på nær sagt alle andre fronter.

Brevet retter seg mot det avsenderne beskriver som et akutt gap i biosikkerheten. Argumentet er at dagens regelverk ikke er dimensjonert for en situasjon der avanserte språkmodeller kan senke terskelen for hvem som er i stand til å tilegne seg kunnskap om farlige patogener.

Rivaler i alt annet, men enige om én ting: AI kan ikke bli et verktøy for massedød.
AI-giganter ber Kongressen stanse biovapen-trusselen - Bilde 1

Hva brevet faktisk krever

Konkrete detaljer om forslagene er ikke fullt ut offentliggjort, men ifølge The Verge handler det om å pålegge AI-selskaper obligatoriske screeningmekanismer og andre tiltak som skal hindre at modellene gir fra seg informasjon som direkte kan bidra til å designe eller produsere biologiske stridsmidler.

Bakgrunnen er at store språkmodeller, i likhet med dem alle tre selskapene utvikler, i teorien kan brukes til å akselerere forskning — inkludert forskning med skadelig potensial. Problemet er at kapabilitetene utvikler seg så raskt at farlige bruksområder ofte oppdages etter at modellen allerede er i bruk, ifølge eksperter som er sitert i bransjeanalyser.

Ekspertene er ikke enige om løsningen

Selvom brevet har fått bred oppmerksomhet, er det langt fra konsensus om at AI-regulering er det riktige grepet. David Baker, direktør for Institute for Protein Design ved Universitetet i Washington, mener regulering primært bør rettes mot de fysiske barrierene — laboratorier, utstyr og DNA-synteseteknologi — snarere enn mot AI-verktøyene i seg selv. Baker er sitert i bransjeanalyser og understreker at DNA-syntese, som brukes i vaksineutvikling, også kan levere komponenter til farlige patogener.

En annen innvending handler om markedsdynamikk: Strengere reguleringer kan slå uforholdsmessig hardt ned på oppstartsselskaper, mens store aktører med ressurser til compliance-arbeid styrker sin posisjon. Kritikere peker på at dette paradoksalt nok kan gi de samme selskapene som signerer brevet et konkurransefortrinn.

Regulering kan ende opp med å beskytte de store og kvele de små — et paradoks ingen i brevet adresserer åpent.

Strategisk motivasjon eller genuint ansvar?

Noen observatører tolker bransjens engasjement i biosikkerhetsspørsmål som delvis strategisk. Tanken er at ved å presse på for obligatorisk screening distribueres ansvaret til et bredere system — og dermed reduseres risikoen for at hele bransjen holdes kollektivt ansvarlig dersom AI noen gang kobles til en biologisk hendelse.

Det er verdt å merke seg at dette er en tolkning fra kritikere, ikke et faktum som er dokumentert. Signatarene selv har ikke kommentert slike beskyldninger offentlig.

Et ytterligere komplikasjonsmoment er at amerikanske eksportkontrollregler, ifølge bransjeanalyser, faktisk kan hindre effektiv biosikkerhetsutvikling: Mange av verdens ledende biosikkerhetseksperter er utenlandske statsborgere fra land som Canada, Storbritannia og EU-land, og lisensprosessene for å involvere dem i slik testing kan være langtekkelige.

Hva skjer videre?

Ballet er nå lagt til Kongressen. Om lovgiverne faktisk vil handle — og i hvilken form — gjenstår å se. Historisk sett har teknologiregulering i USA beveget seg sakte, men biosikkerhetsargumentet har en unik evne til å samle politiske støtte på tvers av partilinjer. At noen av de mektigste navnene i AI-bransjen nå snakker med én stemme, kan gi initiativet tyngde — eller det kan møte skepsis fra politikere som stiller spørsmål ved industriens egentlige motiver.