En bloggpost på s2.dev som nå sirkulerer på Lobsters AI har satt i gang en interessant diskusjon blant folk som driver med edge computing og lokal AI-deploy. Ikke den vanlige «hvilken modell er best»-praten — dette handler om infrastruktur.

Forfatterens premiss er enkelt men solid: du har en Jetson-enhet (NVIDIAs lille kraftpakke for edge AI), du kjører modeller lokalt, og alt går fint — helt til nettverket dauer. Hva skjer da med dataene som modellen skulle prosessere eller sende videre? I de fleste oppsett: de bare forsvinner.

Svaret i posten er «durable streams» — en arkitektur der meldinger og inferens-output skrives til en persistent kø lokalt, slik at ingenting går tapt selv om tilkoblingen faller ut. Når nett'et kommer tilbake, fortsetter datastrømmen der den slapp. Det høres kanskje banalt ut, men i praksis er dette et problem som biter hardt i produksjonsmiljøer: fabrikker, skip, droner, remote sensorer.

Edge AI uten durable streams er som å ta notater på en Post-it i regnet.

Diskusjonen på Lobsters trekker paralleller til eldre løsninger som Kafka og MQTT — protokoller som industrien har brukt i årevis for IoT-datapålitelighet. Det nye her er at noen faktisk setter dette sammen med moderne lokal AI-inferens på dedikert edge-hardware, ikke bare i teori men med konkret Jetson-konfigurasjon.

Kjør lokal AI på Jetson uten å miste data når nett'et dauer - Bilde 1

Hvorfor er dette interessant nå? Fordi lokal AI-deploy har eksplodert i 2025-2026, men infrastrukturen rundt har hengt etter. Alle snakker om hvilke modeller som passer på edge-hardware, men færre snakker om hva som skjer med datapipelinen når den virkelige verden slår inn. Ustabilt nett, strømbrudd, midlertidige feil — det er her produksjonsklar edge AI faktisk testes.

Dette er tidlig signal fra community-siden, ikke peer-reviewed forskning, og vi vet ikke hvor mange som faktisk har deployet denne typen arkitektur i skarp drift. Men at det dukker opp organisk på Lobsters — som er langt mer teknisk-kritisk enn Reddit — tyder på at folk kjenner seg igjen i problemet.

Hvis du jobber med edge AI, industriell IoT, eller bare liker å bygge robuste lokale AI-oppsett, er dette verdt å følge med på. Durable streams er ikke sexy, men det er forskjellen på en demo og et system som faktisk overlever kontakt med virkeligheten.