28 May 2026 · 8 min
Att koppla agenter är enkelt. Att göra dem pålitliga, billiga och säkra nog är själva projektet.
Demona är berusande. En AI-agent tar en vag instruktion, bryter den i steg, anropar verktyg, surfar, skriver kod och lämnar tillbaka ett färdigt resultat — till synes tänkande själv. Det är en av de mest spännande sakerna i mjukvara. Det är också där fler projekt tyst misslyckas än nästan någon annanstans i tillämpad AI, och skälet är alltid detsamma: gapet mellan en agent som fungerar i en demo och en du kan lita på i produktion är enormt — och består av just den oglamorösa ingenjörskonst demona hoppar över.
Detta är inget argument mot agenter, utan för att bygga dem nyktert, med klart huvud om var autonomi lönar sig och var den bara lägger till sätt att misslyckas.
En demo visar lyckostigen en gång. Produktion kör olyckstigarna tusentals gånger. I en flerstegsagent förstärks små felfrekvenser: om varje steg är nittiofem procent tillförlitligt är tio steg i följd bara runt sextio procent tillförlitligt änd till änd, och tjugo är slantsingling. Demon lyckades för att någon körde den tills den fungerade. Produktion får inte den lyxen.
Detta är det viktigaste faktumet om agenttillförlitlighet, och osynligt i varje enskild lyckad körning. Det visar sig först i skala — precis när det är dyrast att upptäcka.
En obegränsad agent — en som kan loopa, försöka igen och anropa verktyg utan gräns — är en risk. Den kan snurra för evigt, hopa kostnad eller vandra långt från uppgiften. Första disciplinen är avgränsning: explicita gränser för steg, omförsök, tid och förbrukning, så att misslyckande är begränsat och förutsägbart. En agent som misslyckas billigt och synligt är långt bättre än en som misslyckas dyrt och tyst.
Dessa gränser begränsar inte förmågan; de gör den trygg att distribuera. En välavgränsad agent som stannar och ber om hjälp vid en gräns är produktionsklar. En obegränsad som oftast fungerar är det inte.
När en tiostegsagent ger fel svar är "AI:n hade fel" ingen diagnos du kan agera på. Tillförlitliga agenter bär explicit, inspekterbart tillstånd: vad som beslutades i varje steg, vilket verktyg anropat med vilka argument, vad som kom tillbaka. När något misslyckas ser du exakt var och varför, och fixar det steget i stället för att rulla tärningen på hela kedjan.
Utan detta är agentfelsökning gissning, och ett system du inte kan felsöka kan du inte förbättra. Tillståndsmodellen är ryggraden som gör agenten underhållbar.
Det mest värdefulla omdömet här är att veta var en agent verkligen hjälper och var ren, deterministisk kod helt enkelt är bättre. Har en uppgift en fast sekvens väldefinierade steg är att skriva den som vanlig kod snabbare, billigare, mer tillförlitligt och lättare att testa än att ge den till en agent som måste återupptäcka sekvensen varje gång. Agenter förtjänar sin komplexitet när stigen verkligen varierar med indata.
Att gripa efter en agent för att agenter är spännande är ett vanligt, dyrt misstag. Vi drar denna linje medvetet — ofta använder den starkaste designen en agent för den öppna delen och deterministisk kod runt.
För varje konsekvensrik handling — skicka, betala, radera, publicera — agerar en tillförlitlig agent inte ensidigt. Den föreslår, och en människa bekräftar, eller den opererar inom snävt avgränsade rättigheter där värsta fallet är acceptabelt. Inte av misstro: kostnaden av en sällsynt felhandling är ofta långt högre än ett bekräftelsesteg.
Var kontrollpunkten går, och hur lätt den kan vara utan att bli stämpling, är ett verkligt designbeslut. Väl gjort gör det agenten trygg och behaglig.
Att utvärdera en agent genom att se den lyckas säger nästan inget. Det som räknas är hur den beter sig när ett verktyg returnerar ett fel, indata är felformad, ett steg ger nonsens, den träffar sina gränser. Vi bygger utvärdering som medvetet övar dessa stigar, för felmoderna är där tillförlitlighet vinns eller förloras.
Den tillförlitliga agenten är nästan alltid mindre magisk än demon. Den är avgränsad, inspekterbar, människokontrollerad där det räknas, och deterministisk där den kan. Det är inget kompromiss av visionen, utan visionen gjord verklig. Det spännande autonoma beteendet överlever precis där det skapar värde; överallt annars bär den tråkiga ingenjörskonsten. Så får du en agent folk faktiskt förlitar sig på.
Boka ett 30-minuters samtal. Vi säger ärligt om vi kan hjälpa.
Boka samtal