28 May 2026 · 8 min
Agenten zu verdrahten ist einfach. Sie verlässlich, günstig und sicher genug zu machen ist das eigentliche Projekt.
Die Demos sind berauschend. Ein KI-Agent nimmt eine vage Anweisung, zerlegt sie in Schritte, ruft Tools auf, browst, schreibt Code und liefert ein fertiges Ergebnis — scheinbar selbst denkend. Es ist eines der spannendsten Dinge in der Software. Es ist auch, wo mehr Projekte still scheitern als fast überall sonst in der angewandten KI, und der Grund ist stets derselbe: die Kluft zwischen einem Agenten, der im Demo läuft, und einem, dem man in Produktion trauen kann, ist enorm — und besteht aus genau dem unglamourösen Engineering, das Demos überspringen.
Das ist kein Argument gegen Agenten, sondern für ihren nüchternen Bau, mit klarem Kopf darüber, wo Autonomie sich lohnt und wo sie nur Fehlerwege hinzufügt.
Ein Demo zeigt den Happy Path einmal. Produktion läuft die Unhappy Paths tausendfach. In einem mehrstufigen Agenten kumulieren kleine Fehlerraten: bei fünfundneunzig Prozent Zuverlässigkeit je Schritt sind zehn Schritte nur noch etwa sechzig Prozent zuverlässig, zwanzig ein Münzwurf. Das Demo gelang, weil jemand es bis zum Erfolg wiederholte. Produktion hat diesen Luxus nicht.
Das ist die wichtigste Tatsache über Agent-Zuverlässigkeit und in jedem einzelnen erfolgreichen Lauf unsichtbar. Sie zeigt sich erst im Maßstab — genau dann, wenn ihre Entdeckung am teuersten ist.
Ein unbegrenzter Agent — einer, der ohne Limit loopen, retryen und Tools rufen kann — ist ein Risiko. Er kann ewig drehen, Kosten auftürmen oder weit vom Ziel abkommen. Die erste Disziplin ist Begrenzung: explizite Limits für Schritte, Retries, Zeit und Ausgaben, sodass Scheitern eingedämmt und vorhersehbar ist. Ein Agent, der billig und sichtbar scheitert, ist weit besser als einer, der teuer und still scheitert.
Diese Grenzen beschränken nicht die Fähigkeit; sie machen sie deploybar sicher. Ein gut begrenzter Agent, der bei einem Limit stoppt und um Hilfe bittet, ist produktionsreif. Ein unbegrenzter, der meist funktioniert, nicht.
Wenn ein zehnstufiger Agent falsch antwortet, ist „die KI lag falsch" keine handhabbare Diagnose. Zuverlässige Agenten tragen expliziten, inspizierbaren Zustand: was in jedem Schritt entschieden wurde, welches Tool mit welchen Argumenten aufgerufen wurde, was zurückkam. Bei einem Fehler sehen Sie genau wo und warum und beheben diesen Schritt, statt die ganze Kette neu zu würfeln.
Ohne das ist Agent-Debugging Raten, und ein System, das man nicht debuggen kann, kann man nicht verbessern. Das Zustandsmodell ist das Rückgrat der Wartbarkeit.
Das wertvollste Urteil hier ist zu wissen, wo ein Agent wirklich hilft und wo schlichter, deterministischer Code einfach besser ist. Hat eine Aufgabe eine feste Folge klar definierter Schritte, ist sie als gewöhnlicher Code schneller, günstiger, zuverlässiger und leichter testbar als per Agent, der die Folge jedes Mal neu entdecken muss. Agenten verdienen ihre Komplexität, wenn der Pfad wirklich mit dem Input variiert.
Zum Agenten zu greifen, weil Agenten spannend sind, ist ein häufiger, teurer Fehler. Wir ziehen diese Linie bewusst — oft nutzt das stärkste Design einen Agenten für den offenen Teil und deterministischen Code drumherum.
Für jede folgenreiche Aktion — Senden, Zahlen, Löschen, Veröffentlichen — handelt ein zuverlässiger Agent nicht einseitig. Er schlägt vor, ein Mensch bestätigt, oder er arbeitet in eng umrissenen Rechten, wo der schlimmste Fall akzeptabel ist. Nicht aus Misstrauen: die Kosten einer seltenen Fehlaktion sind oft weit höher als die eines Bestätigungsschritts.
Wo der Checkpoint sitzt und wie leicht er sein kann, ohne zum Abstempeln zu werden, ist eine echte Design-Entscheidung. Gut gemacht macht sie den Agenten sicher und angenehm.
Einen Agenten beim Gelingen zuzusehen sagt fast nichts. Wichtig ist, wie er sich verhält, wenn ein Tool einen Fehler liefert, Input fehlerhaft ist, ein Schritt Unsinn produziert, er an seine Grenzen stößt. Wir bauen Evaluierung, die diese Pfade gezielt durchspielt, denn dort wird Zuverlässigkeit gewonnen oder verloren.
Der zuverlässige Agent ist fast immer weniger magisch als das Demo. Er ist begrenzt, inspizierbar, dort menschlich geprüft, wo es zählt, und deterministisch, wo immer möglich. Das ist kein Kompromiss der Vision, sondern ihre Verwirklichung. Das spannende autonome Verhalten überlebt genau dort, wo es Wert schafft; überall sonst trägt das langweilige Engineering. So bekommt man einen Agenten, auf den sich Leute wirklich verlassen.
Buchen Sie ein 30-minütiges Gespräch. Wir sagen Ihnen ehrlich, ob wir helfen können.
Termin buchen