28 May 2026 · 8 min
At koble agenter er nemt. At gøre dem pålidelige, billige og sikre nok er selve projektet.
Demoerne er berusende. En AI-agent tager en vag instruktion, bryder den i trin, kalder værktøjer, surfer, skriver kode og leverer et færdigt resultat — tilsyneladende tænkende selv. Det er en af de mest spændende ting i software. Det er også, hvor flere projekter stille svigter end næsten nogen andre steder i anvendt AI, og grunden er altid den samme: gabet mellem en agent, der virker i en demo, og en, du kan stole på i produktion, er enormt — og består af netop den uglamourøse ingeniørkunst, demoer springer over.
Dette er ikke et argument mod agenter, men for at bygge dem nøgternt, med klart hoved om, hvor autonomi betaler sig, og hvor den bare tilføjer måder at fejle på.
En demo viser lykkestien én gang. Produktion kører ulykkestierne tusindvis af gange. I en flertrinsagent forstærkes små fejlrater: hvis hvert trin er femoghalvfems procent pålideligt, er ti trin i træk kun omkring tres procent pålideligt ende til ende, og tyve er plat eller krone. Demoen lykkedes, fordi nogen kørte den, til den virkede. Produktion får ikke den luksus.
Dette er det vigtigste faktum om agentpålidelighed, og usynligt i enhver enkelt vellykket kørsel. Det viser sig først i skala — netop når det er dyrest at opdage.
En uafgrænset agent — en, der kan loope, prøve igen og kalde værktøjer uden grænse — er en risiko. Den kan snurre for evigt, hobe omkostning op eller vandre langt fra opgaven. Første disciplin er afgrænsning: eksplicitte grænser for trin, gentagelser, tid og forbrug, så svigt er begrænset og forudsigeligt. En agent, der svigter billigt og synligt, er langt bedre end en, der svigter dyrt og stille.
Disse grænser begrænser ikke evnen; de gør den tryg at distribuere. En velafgrænset agent, der stopper og beder om hjælp ved en grænse, er produktionsklar. En uafgrænset, der som regel virker, er det ikke.
Når en titrinsagent giver et forkert svar, er "AI'en tog fejl" ingen diagnose, du kan handle på. Pålidelige agenter bærer eksplicit, inspicerbar tilstand: hvad der blev besluttet i hvert trin, hvilket værktøj kaldt med hvilke argumenter, hvad der kom tilbage. Når noget svigter, ser du nøjagtigt hvor og hvorfor, og retter det trin i stedet for at rulle terningen på hele kæden.
Uden dette er agentfejlfinding gætteri, og et system, du ikke kan fejlfinde, kan du ikke forbedre. Tilstandsmodellen er rygraden, der gør agenten vedligeholdbar.
Den mest værdifulde dømmekraft her er at vide, hvor en agent virkelig hjælper, og hvor ren, deterministisk kode simpelthen er bedre. Har en opgave en fast sekvens veldefinerede trin, er at skrive den som almindelig kode hurtigere, billigere, mere pålidelig og lettere at teste end at give den til en agent, der skal genopdage sekvensen hver gang. Agenter fortjener deres kompleksitet, når stien virkelig varierer med input.
At gribe efter en agent, fordi agenter er spændende, er en almindelig, dyr fejl. Vi trækker denne linje bevidst — ofte bruger det stærkeste design en agent til den åbne del og deterministisk kode rundt om.
For enhver konsekvensrig handling — sende, betale, slette, publicere — handler en pålidelig agent ikke ensidigt. Den foreslår, og et menneske bekræfter, eller den opererer inden for tæt afgrænsede rettigheder, hvor værste tilfælde er acceptabelt. Ikke af mistillid: omkostningen af en sjælden fejlhandling er ofte langt højere end et bekræftelsestrin.
Hvor kontrolpunktet går, og hvor let det kan være uden at blive stempling, er en reel designbeslutning. Godt gjort gør det agenten tryg og behagelig.
At evaluere en agent ved at se den lykkes siger næsten intet. Det, der tæller, er, hvordan den opfører sig, når et værktøj returnerer en fejl, input er misdannet, et trin giver vrøvl, den rammer sine grænser. Vi bygger evaluering, der bevidst øver disse stier, for fejltilstandene er, hvor pålidelighed vindes eller tabes.
Den pålidelige agent er næsten altid mindre magisk end demoen. Den er afgrænset, inspicerbar, menneskekontrolleret hvor det tæller, og deterministisk hvor den kan. Det er ikke et kompromis af visionen, men visionen gjort virkelig. Den spændende autonome adfærd overlever netop der, hvor den skaber værdi; alle andre steder bærer den kedelige ingeniørkunst. Sådan får du en agent, folk faktisk stoler på.
Book et 30-minutters opkald. Vi siger ærligt, om vi kan hjælpe.
Book et opkald