28 May 2026 · 8 min
Å koble agenter er enkelt. Å gjøre dem pålitelige, billige og trygge nok er selve prosjektet.
Demoene er berusende. En AI-agent tar en vag instruksjon, bryter den i steg, kaller verktøy, surfer, skriver kode og leverer et ferdig resultat — tilsynelatende tenkende selv. Det er en av de mest spennende tingene i programvare. Det er også der flere prosjekter stille svikter enn nesten hvor som helst ellers i anvendt AI, og grunnen er alltid den samme: gapet mellom en agent som virker i en demo og en du kan stole på i produksjon er enormt — og består av nettopp den uglamorøse ingeniørkunsten demoer hopper over.
Dette er ikke et argument mot agenter, men for å bygge dem nøkternt, med klart hode om hvor autonomi lønner seg og hvor den bare legger til måter å svikte på.
En demo viser lykkestien én gang. Produksjon kjører ulykkestiene tusenvis av ganger. I en flerstegsagent forsterkes små feilrater: om hvert steg er nittifem prosent pålitelig, er ti steg på rad bare rundt seksti prosent pålitelig ende til ende, og tjue er myntkast. Demoen lyktes fordi noen kjørte den til den virket. Produksjon får ikke den luksusen.
Dette er det viktigste faktumet om agentpålitelighet, og usynlig i enhver enkelt vellykket kjøring. Det viser seg først i skala — nettopp når det er dyrest å oppdage.
En uavgrenset agent — en som kan loope, prøve på nytt og kalle verktøy uten grense — er en risiko. Den kan snurre evig, hope opp kostnad eller vandre langt fra oppgaven. Første disiplin er avgrensning: eksplisitte grenser for steg, gjenforsøk, tid og forbruk, så svikt er begrenset og forutsigbar. En agent som svikter billig og synlig er langt bedre enn en som svikter dyrt og stille.
Disse grensene begrenser ikke evnen; de gjør den trygg å distribuere. En godt avgrenset agent som stopper og ber om hjelp ved en grense er produksjonsklar. En uavgrenset som vanligvis virker er ikke det.
Når en tistegsagent gir feil svar, er «AI-en tok feil» ingen diagnose du kan handle på. Pålitelige agenter bærer eksplisitt, inspiserbar tilstand: hva som ble bestemt i hvert steg, hvilket verktøy kalt med hvilke argumenter, hva som kom tilbake. Når noe svikter ser du nøyaktig hvor og hvorfor, og fikser det steget i stedet for å rulle terningen på hele kjeden.
Uten dette er agentfeilsøking gjetting, og et system du ikke kan feilsøke kan du ikke forbedre. Tilstandsmodellen er ryggraden som gjør agenten vedlikeholdbar.
Det mest verdifulle skjønnet her er å vite hvor en agent virkelig hjelper og hvor ren, deterministisk kode simpelthen er bedre. Har en oppgave en fast sekvens veldefinerte steg, er å skrive den som vanlig kode raskere, billigere, mer pålitelig og lettere å teste enn å gi den til en agent som må gjenoppdage sekvensen hver gang. Agenter fortjener kompleksiteten når stien virkelig varierer med input.
Å gripe etter en agent fordi agenter er spennende er en vanlig, dyr feil. Vi trekker denne linjen bevisst — ofte bruker det sterkeste designet en agent for den åpne delen og deterministisk kode rundt.
For enhver konsekvensrik handling — sende, betale, slette, publisere — handler en pålitelig agent ikke ensidig. Den foreslår, og et menneske bekrefter, eller den opererer innen tett avgrensede rettigheter der verste tilfelle er akseptabelt. Ikke av mistillit: kostnaden av en sjelden feilhandling er ofte langt høyere enn et bekreftelsessteg.
Hvor sjekkpunktet går, og hvor lett det kan være uten å bli stempling, er en reell designbeslutning. Godt gjort gjør den agenten trygg og behagelig.
Å evaluere en agent ved å se den lykkes sier nesten ingenting. Det som teller er hvordan den oppfører seg når et verktøy returnerer en feil, input er misdannet, et steg gir tull, den treffer grensene. Vi bygger evaluering som bevisst øver disse stiene, for feilmodusene er der pålitelighet vinnes eller tapes.
Den pålitelige agenten er nesten alltid mindre magisk enn demoen. Den er avgrenset, inspiserbar, menneskesjekket der det teller, og deterministisk der den kan. Det er ikke et kompromiss av visjonen, men visjonen gjort virkelig. Den spennende autonome atferden overlever nettopp der den skaper verdi; ellers bærer den kjedelige ingeniørkunsten. Slik får du en agent folk faktisk stoler på.
Bestill en 30-minutters samtale. Vi sier ærlig om vi kan hjelpe.
Bestill samtale