En tråd som bygger seg opp på Lobsters akkurat nå, knyttet til et blogginnlegg fra 14. juli, stiller et spørsmål som sikkerhetsfolk har irritert seg over en stund: Hvordan vet du egentlig at AI-tjenesten du bruker faktisk kjører den modellen de påstår? Og at output ikke er tuklet med underveis?

Dette handler ikke om hallusinasjoner eller dårlige svar — det handler om tillit på infrastrukturnivå. Kan en sky-leverandør bytte ut modellen din med noe billigere? Kan en kompromittert server sende deg manipulerte svar? Akkurat nå: ja, uten at du nødvendigvis merker det.

Verifiable inference er det manglende leddet mellom «vi lover at vi kjører GPT-X» og «her er det kryptografiske beviset».

Det community-en diskuterer er i bunn og grunn tre retninger:

TEEs (Trusted Execution Environments) er akkurat nå det heteste alternativet. Intel TDX, AMD SEV-SNP og ARM CCA lager isolerte "hvelv" inne i prosessoren der kode ikke kan tukles med — ikke engang av operativsystemet eller sky-admins. NVIDIA begynte å rulle ut GPU-støtte for TEEs i 2024, noe som gjør dette relevant for faktiske AI-workloads. Poenget er at du kan få en kryptografisk attest på at akkurat denne modellen kjørte akkurat dette promptet i et umodifisert miljø.

Kan du bevise at AI-en ikke juger? Nå vil folk ha svar - Bilde 1

Kryptografisk signering er den enklere broren — NVIDIA signerer allerede modeller i NGC Catalog med OpenSSF-standarden siden mars 2025. Det løser provenance-problemet (er dette den ekte modellen?), men ikke runtime-manipulasjon.

Zero-knowledge proofs er den elegante men tunge løsningen. Matematisk bevis uten å avsløre input. Problemet er at ZKP for store språkmodeller er beregningskrevende nok til å gjøre det upraktisk i dag — derav interessen for TEE-alternativet.

Hvorfor bryr noen seg nå? Fordi AI brukes i stadig mer kritiske kontekster — juridiske dokumenter, medisinsk rådgivning, finansbeslutninger. Spørsmålet om hvem som faktisk tok beslutningen og hvilken modell som stod bak, begynner å bli regulatorisk relevant. EU AI Act-implementeringen er i gang, og auditability er ikke lenger bare nerd-snakk.

Dette er tidlige signaler fra en teknisk nisje, og ingen av løsningene er produksjonsklare i stor skala ennå. Men at Lobsters-folka — som typisk er mer skeptiske og teknisk solide enn Reddit — tar dette opp, er verdt å merke seg. Hold øye med om dette dukker opp i sikkerhetskonferanser som DEF CON eller Black Hat i løpet av høsten.