Die stille Revolution: was man aus den ersten produktiven KI-Agenten-Projekten lernen kann
Die lautesten Ankündigungen zu KI-Agenten sind selten die ehrlichsten. Eine Pressemitteilung über die neue Automatisierungsstufe liest sich immer makellos. Interessanter sind die leiseren Berichte, die erst Monate später kommen, wenn ein Unternehmen tatsächlich erzählt, was beim produktiven Einsatz passiert ist, mit allem, was nicht auf Anhieb funktioniert hat. Genau diese Berichte lohnt es sich anzusehen, bevor man selbst anfängt.
Klarna und die Grenzen der vollständigen Automatisierung
Das bekannteste Beispiel bleibt Klarna. 2024 verkündete das Unternehmen, ein KI-Assistent übernehme die Arbeit von 700 Kundenservice-Mitarbeitenden und spare jährlich 40 Millionen US-Dollar. Die Zahl machte international Schlagzeilen, als Beleg dafür, wie weit Automatisierung im Kundenkontakt bereits reicht.
Ein Jahr später folgte die Korrektur. Kundschaft beschwerte sich über generische Antworten und über einen Assistenten, der bei komplizierten, uneindeutigen Fällen nicht weiterkam. Klarna begann, wieder menschliche Mitarbeitende einzustellen. CEO Sebastian Siemiatkowski räumte öffentlich ein: "We went too far." Die Konsequenz aus zu radikalem Kostenfokus sei am Ende geringere Qualität gewesen. Das Unternehmen stellte danach auf ein hybrides Modell um: der Assistent übernimmt das Volumengeschäft, Menschen übernehmen Beschwerden, komplexe Rückerstattungen und Fälle, die echtes Urteilsvermögen brauchen.
Die Lehre daraus ist nicht, dass KI-Agenten im Kundenservice nicht funktionieren. Sie funktionieren, sofern der Umfang begrenzt bleibt. Das Volumengeschäft, also die vielen ähnlich gelagerten, gut abgrenzbaren Anfragen, eignet sich gut dafür. Der Rest, die Ausnahmefälle, die Verhandlung, das Abwägen, bleibt bei Menschen. Wer das vorher nicht so trennt, erlebt die Korrektur erst im Nachhinein, öffentlich und teuer.
Was Produktionsdaten tatsächlich zeigen
Über den Einzelfall hinaus gibt es inzwischen breiter angelegte Untersuchungen zum tatsächlichen Betrieb von KI-Agenten. Eine Befragung von mehr als 130 Technologieverantwortlichen in Unternehmen mit produktiven Agenten-Systemen kommt zu einem Befund, der zur Klarna-Geschichte passt: ein erheblicher Teil der Entwicklungszeit fließt nicht in neue Funktionen, sondern in den laufenden Betrieb. 24 Prozent der befragten Organisationen verbringen mehr als die Hälfte ihrer Entwicklungszeit mit Infrastruktur und Fehlersuche, weitere 27 Prozent zwischen einem Viertel und der Hälfte. Insgesamt geben 77 Prozent an, einen relevanten Anteil ihrer Kapazität für genau diesen Betriebsaufwand aufzuwenden, nicht für die eigentliche fachliche Logik, die den Einsatz ursprünglich gerechtfertigt hat.
Das deckt sich mit einer Beobachtung, die in der Branche inzwischen häufiger zu hören ist: ein Agent, der in der Demo überzeugt, ist etwas anderes als ein Agent, der über Monate hinweg zuverlässig in einem echten Betrieb läuft. Die Lücke dazwischen ist Arbeit, die selten eingeplant wird, weil sie im Vorfeld unsichtbar bleibt.
Warum begrenzte Autonomie die Regel ist, nicht die Ausnahme
Eine Umfrage unter Mitgliedern der Agentic AI Foundation, vorgestellt auf der AGNTCon + MCPCon Europe im September 2026, liefert dazu eine ergänzende Zahl. 81 Prozent der befragten Organisationen setzen Agenten bereits produktiv ein, gut die Hälfte davon in echter Produktions-Größenordnung. Interessanter als diese Zahl ist aber, wie sie das tun: 66 Prozent setzen bewusst auf menschliche Aufsicht im Loop, 63 Prozent auf eingeschränkte statt vollständige Autonomie. Das ist kein Zufall und keine Zwischenstufe auf dem Weg zu etwas Größerem. Es ist, nach den bisherigen Erfahrungen, die Betriebsart, die tatsächlich funktioniert.
Volle Autonomie klingt in einer Produktvorstellung überzeugender als eingeschränkte Autonomie. In der Praxis ist es umgekehrt: die Organisationen, die bereits länger produktiv arbeiten, schränken die Handlungsfreiheit ihrer Agenten gezielt ein, statt sie zu maximieren. Ein Agent, der jede Aktion ausführen darf, braucht auch jede Aktion absichernde Kontrolle. Ein Agent, dessen Vollmacht von vornherein eng gefasst ist, braucht davon deutlich weniger.
Was das für ein kleineres Unternehmen heißt
Klarna betreibt ein Kundenservice-System für Millionen Nutzer, mit einem eigenen Engineering-Team im Hintergrund. Die meisten Unternehmen, die wir kennen, planen keinen Agenten für 700 Arbeitsplätze, sondern einen einzigen, der auf der eigenen Website eine wiederkehrende Aufgabe übernimmt: Anfragen vorqualifizieren, Standardfragen zu Öffnungszeiten oder Leistungen beantworten, einen Termin vorschlagen. Die Größenordnung ist eine andere, die Grundregel bleibt dieselbe.
Ein Handwerksbetrieb mit einem Agenten für die Anfragen-Vorqualifizierung muss keine 24 Prozent seiner Entwicklungskapazität in Fehlersuche stecken, denn er hat gar keine eigene Entwicklungskapazität in diesem Umfang. Was bleibt, ist die kleinere, aber genauso wichtige Version derselben Aufgabe: jemand im Betrieb sieht sich regelmäßig an, was der Agent tatsächlich beantwortet, nicht nur in der ersten Woche. Und der Agent bekommt von Anfang an nur die Aufgaben, bei denen ein falsches Ergebnis auffällt und korrigierbar ist, nicht die Aufgaben, bei denen ein Fehler erst beim Kunden sichtbar wird.
Was das für den eigenen Einstieg bedeutet
Aus diesen drei Quellen lassen sich konkrete, vorsichtige Empfehlungen ableiten, die über allgemeine Vorsicht hinausgehen.
Ein Agent, der meldet, eine Aufgabe sei erledigt, hat damit noch nichts über die Qualität des Ergebnisses gesagt. Das Vendingmaschine-Experiment auf der AGNTCon, das wir in unserem Rückblick zur Konferenz beschrieben haben, zeigte genau dieses Muster: ein Agent kann einen Verkauf erfolgreich abschließen und trotzdem ein schlechter Verkäufer sein, weil er Preise falsch setzt oder Lagerbestände ignoriert. "Aufgabe erledigt" ist eine Meldung, kein Qualitätsmaß. Wer ein Ergebnis nicht unabhängig prüfen kann, sollte die Aufgabe nicht vollständig an einen Agenten abgeben.
Ein enger abgegrenzter Aufgabenbereich hilft dabei mehr als ein breiter: die Vorqualifizierung eingehender Anfragen oder das Beantworten wiederkehrender Standardfragen lässt sich beobachten und korrigieren. Ein breit angelegter "Kundenservice-Agent für alles" lässt sich das nicht, wie Klarna erfahren hat.
Ein produktiver Agent braucht außerdem einen Ort, an dem jemand regelmäßig hinschaut, nicht nur beim Start, sondern über Wochen. Die 77 Prozent Betriebsaufwand aus der zitierten Untersuchung sind kein Zeichen von schlechter Arbeit, sondern die tatsächlichen Kosten eines Systems, das mit der Zeit driften kann, auch wenn es am ersten Tag einwandfrei lief.
Letztlich ist eine eingeschränkte Vollmacht kein vorläufiger Kompromiss, den man auflöst, sobald sich das System bewährt hat. Nach allem, was aus den bisherigen produktiven Einsätzen bekannt ist, bleibt eine bewusst begrenzte Autonomie die Betriebsart, mit der Unternehmen tatsächlich langfristig arbeiten. Wer sie von Anfang an so plant, muss sie später nicht schmerzhaft nachrüsten.
Wenn Sie überlegen, wo auf Ihrer eigenen Website oder in Ihrem Betrieb ein eng abgegrenzter Agenten-Einsatz sinnvoll wäre, sind wir erreichbar.
Quellen
- Klarna: offizielle Pressemitteilung zum KI-Assistenten im Kundenservice
- CX Dive: Bericht zur Kurskorrektur und zum Zitat "We went too far" von CEO Sebastian Siemiatkowski
- VentureBeat: "The Agentic Reckoning", Befragung von mehr als 130 Technologieverantwortlichen zum Betriebsaufwand produktiver Agenten
- Agentic AI Foundation (AAIF): Agentic AI Momentum Report mit den Ergebnissen des Member Pulse Survey, vorgestellt auf der AGNTCon + MCPCon Europe 2026
Häufige Fragen
Heißt das, KI-Agenten lohnen sich für kleinere Unternehmen nicht?
Nein, das Gegenteil lässt sich aus den Beispielen ableiten. Klarna ist nicht an der Idee gescheitert, sondern am Zuschnitt: ein Agent für praktisch jeden Kundenkontakt, ohne klare Grenze, wo ein Mensch übernimmt. Ein eng umrissener Einsatz, etwa für Standardanfragen auf der eigenen Website, zeigt in der Praxis deutlich seltener diese Probleme, weil die Fehlertoleranz von vornherein kleiner und die Kontrolle einfacher ist.
Woran erkennt man, dass ein Agent zu viel Autonomie hat?
Ein brauchbares Zeichen: wenn eine falsche Entscheidung des Agenten erst beim Kunden auffällt, statt vorher intern, ist der Zuschnitt zu weit. Die 63 Prozent der Organisationen, die auf der AGNTCon-Umfrage bewusst eingeschränkte Autonomie angaben, folgen genau dieser Logik: der Agent darf das, wofür ein falsches Ergebnis schnell sichtbar und korrigierbar ist, und nicht mehr.
Muss man selbst Entwicklungskapazität für den Betrieb einplanen?
In kleinerem Maßstab heißt das selten, ein eigenes Team aufzubauen. Es heißt, dass jemand im Betrieb regelmäßig prüft, was der Agent tatsächlich beantwortet oder entscheidet, nicht nur bei der Einführung. Dieser Aufwand ist deutlich kleiner als die 24 Prozent Entwicklungszeit aus der zitierten Untersuchung, aber er entfällt nicht ganz.
