
Stell dir vor, du rufst beim Kundensupport deiner Bank an.
Das Erste, was du hörst, ist ein Menü:
„Drücke 1 bei Kontoproblemen. Drücke 2 bei Problemen mit deiner Karte. Drücke 3 bei Betrugsverdacht.“ Du drückst die 2.
Einen Moment später stellt das System eine Anschlussfrage: „Wurde deine Karte verloren, gestohlen oder wird sie abgelehnt?“ Du wählst „abgelehnt“ und plötzlich sprichst du mit dem richtigen System – eines, das relevante Fragen stellt, die richtigen Daten prüft und dir eine Antwort gibt, die für deine Situation tatsächlich Sinn ergibt.
Jetzt stell dir das gegenteilige Erlebnis vor.
Du erklärst, dass deine Karte abgelehnt wird, aber das System ignoriert diesen Kontext. Es presst dich durch ein starres Skript, wiederholt allgemeine Fragen, startet den Ablauf neu und behandelt jedes Problem so, als wäre es dasselbe. Keine Verzweigung. Keine Anpassung. Nur eine feste Abfolge, die nie innehält, um zu fragen, ob sie noch auf dem richtigen Weg ist.
Dieses zweite Erlebnis fühlt sich kaputt an – nicht, weil es dem System an Informationen mangelt, sondern weil es ihm an Entscheidungsfähigkeit fehlt. Genau dieses Problem tritt in KI-Systemen ständig auf.
Viele KI-Agenten sind als sequenzielle Ketten aufgebaut: Schritt 1 füttert Schritt 2, welcher Schritt 3 füttert. Die gesamte Konversation oder Aufgabe ist in einem einzigen langen Prompt oder einer festen Serie von Prompts kodiert. Solange sich der Nutzer genau wie erwartet verhält, funktioniert das System.
Aber in dem Moment, in dem die Realität abweicht: „Das habe ich schon versucht.“ „Das ist nicht mein Problem.“ „Das trifft auf mich nicht zu.“ … läuft die Kette trotzdem weiter. Sie hält nicht an, um zu fragen, ob dies noch der richtige Pfad ist. Sie führt einfach den nächsten Schritt aus, weil sie nichts anderes gelernt hat.
Das passiert, weil jede sequenzielle Kette auf fragilen Annahmen basiert: dass der Nutzer genau wie erwartet antwortet und dass die ursprüngliche Strategie bis zum Ende relevant bleibt. Wenn diese Annahmen scheitern, tappt das System in die „Komplexitätsfalle“. Anstatt umzuschwenken, versuchen Entwickler oft, die Kette zu „flicken“, indem sie dem Prompt mehr Anweisungen und Sonderfälle hinzufügen. Dies führt zu „Prompt-Aufblähung“ (Prompt Bloat), was das System instabil und teuer macht und es dem Modell erschwert, logisch zu schlussfolgern. Die Kette scheitert nicht, weil es der KI an Intelligenz mangelt; sie scheitert, weil ihr die Logikgatter fehlen, um den Kurs zu ändern.
Kehren wir zu unserem Kundensupport-Beispiel zurück. In einer linearen Kette ist der Agent ein starres Skript. In einem Routing-System ist der Agent der Empfangsmitarbeiter. Routing ist der explizite Moment, in dem das System die Eingabe des Nutzers bewertet und entscheidet, welche „Abteilung“ den Anruf bearbeiten soll. Anstatt jeden Nutzer durch dasselbe Standard-Skript zu zwingen, hört das System auf Signale:
In einem agentenbasierten System spielt das Routing die Rolle des „Gehirns“ vor der „Muskelkraft“. Anstatt das Modell in einen einzigen, massiven Prompt einzusperren, bewertet das System zuerst den Kontext und wählt den relevantesten Workflow aus. Dieser Workflow könnte sein:
Ketten sind nicht verschwunden. Sie wurden lediglich organisiert. Genau wie ein Callcenter verschiedene Skripte für unterschiedliche Abteilungen hat, nutzt ein Routing-KI-System fokussierte Ketten, die für spezifische Aufgaben optimiert sind. Die „Endlosschleife des Grauens“ passiert nur dann, wenn du ein Abrechnungsproblem durch eine technische Support-Kette erzwingst.
Ohne Routing tappen Entwickler in die „Mega-Prompt-Falle“. Sie versuchen, jedes „Wenn/Dann“-Szenario in ein einziges, massives Anweisungsset zu backen: Wenn der Nutzer frustriert ist, entschuldige dich; wenn er die Lösung schon probiert hat, schlage einen Neustart vor; wenn er eine Rückerstattung erwähnt, erkläre die 30-Tage-Frist...
Dies führt zu „Prompt Bloat“ – das Modell wird durch zu viele Anweisungen verwirrt. Routing lagert diese Logik aus. Am Ende hast du:
Ein rein sequenzieller Agent ist ein Skript, das einfach weiterredet, ungeachtet des Publikums. Ein Routing-Agent ist ein System – eines, das umleiten, eskalieren oder die Strategie ändern kann, sobald neue Informationen auftauchen. Sobald du aufhörst zu fragen „Was ist der nächste Schritt?“ und anfängst zu fragen „Wohin soll das als Nächstes gehen?“, hörst du auf, Bots zu bauen, und fängst an, Agenten zu bauen.
Das Ziel des Routings ist es, eine Frage zu beantworten: Wohin soll diese Anfrage als Nächstes gehen? In einem agentenbasierten System gibt es vier Hauptwege, um diese Entscheidung zu treffen. Um den Unterschied zu verstehen, schauen wir uns an, wie jeder Weg mit derselben Nutzereingabe umgeht: Ich bin in einem Restaurant in Paris, meine Karte wurde gerade abgelehnt und ich habe Angst, dass ich wegen Betrugsverdachts gesperrt wurde.
Dies ist die flexibelste und oft einfachste Methode für den Anfang. Hier erhält ein Sprachmodell den aktuellen Kontext und wird gebeten zu entscheiden, welche Route zutrifft. Konzeptionell ähnelt das einem Support-Mitarbeiter, der dein Problem liest und sagt: „Das klingt nach einem Abrechnungsproblem, nicht nach einem technischen.“
Der Router-Prompt könnte folgendes prüfen:
… und ein Label zurückgeben wie:
Es bemerkt, dass der Nutzer im Ausland ist („Paris“) und „Betrug“ erwähnt. Es erkennt, dass dies nicht nur ein technischer Fehler ist – es ist eine stressige Reise-Situation. Es routet zu „Reise & Sicherheit“ mit einer hohen Prioritätsstufe.
Embedding-basiertes Routing beantwortet eine einfachere Frage: Welcher bekannten Kategorie ist dies am ähnlichsten?
Anstatt über die Eingabe nachzugrübeln, vergleicht das System sie mittels Vektorähnlichkeit mit vordefinierten Beispielen oder Beschreibungen. Das ist vergleichbar mit einem Support-System, das Anrufe routet, indem es Schlüsselwörter oder Sätze mit bekannten Problemtypen abgleicht. Zum Beispiel eingebettet das System die Nachricht des Nutzers und vergleicht sie mit Embeddings für:
Das System stellt fest, dass der Satz „Karte wurde gerade abgelehnt“ mathematisch am nächsten an 5.000 früheren Tickets mit dem Label „Transaktionsfehler“ liegt. Es leitet den Nutzer zum standardmäßigen automatisierten Fehlersuch-Prozess weiter.
Embedding-basiertes Routing wird oft als schneller, zuverlässiger erster Schritt eingesetzt. Manchmal wird es für Sonderfälle mit LLM-Routing kombiniert.
Dies ist die berechenbarste Strategie unter Verwendung von Wenn/Dann-Logik. Es funktioniert wie ein Telefonmenü.
Hier werden Routing-Entscheidungen anhand fester Bedingungen getroffen:
Es gibt keine Mehrdeutigkeit und keine Interpretation.
Das System scannt nach dem Schlüsselwort „Betrug“. Da dieses Wort ein fest einprogrammierter Trigger ist, wird der Nutzer sofort an die Betrugsabteilung weitergeleitet, selbst wenn das eigentliche Problem nur eine abgelaufene Karte war.
Regelbasiertes Routing reicht in dialogorientierten Systemen selten allein aus, wird aber oft als „Leitplanke“ oder Override eingesetzt.
Bei diesem Ansatz wird das Routing von einem dedizierten Klassifikator übernommen, der auf historischen Daten trainiert wurde. Anstatt logisch zu schlussfolgern oder Ähnlichkeiten abzugleichen, lernt das Modell Muster aus vergangenen Beispielen: Anfragen wie diese gehen normalerweise zu Pfad X.
Das spiegelt wider, wie große Support-Organisationen Tickets basierend auf früheren Ergebnissen und Kennzahlen routen.
Basierend auf historischen Mustern weiß das Modell, dass bei der Kombination von „abgelehnt“ und „Paris“ eine 85-prozentige Wahrscheinlichkeit besteht, dass der Nutzer vergessen hat, eine Reiseankündigung zu hinterlegen. Es leitet ihn zum Agenten für „Self-Service Reise-Einstellungen“ weiter.
ML-basiertes Routing ist skalierbar und mächtig, aber für frühe oder sich schnell ändernde Systeme oft überdimensioniert.
In der Praxis wählst du selten nur eine Strategie. Die robustesten Systeme nutzen Layered Routing (geschichtetes Routing), bei dem verschiedene Methoden als Filter fungieren.
Denk an die Sicherheitsebenen einer Bank: Ein Karteneinsatz besteht vielleicht eine Basis-Regel (ist die Karte aktiv?), löst aber ein ML-Modell für verdächtige Aktivitäten aus und erfordert schließlich ein LLM (oder einen Menschen), um einen komplexen Streitfall zu lösen.
Anstatt eine Methode zu wählen, stapelst du sie von der schnellsten/günstigsten zur „intelligentesten“:
Das „Override“-Prinzip: Ein hybrides System erlaubt es einer Ebene, eine andere zu überschreiben. Zum Beispiel sollte eine Rückerstattungsanfrage, die das Wort „Betrug“ enthält, einen regelbasierten Override zur Sicherheit auslösen, selbst wenn die Embeddings vermuten lassen, dass es ein Standard-Abrechnungsthema ist.
Routing ist nicht nur eine Aktivität an der „Haustür“; es sollte als Logikgatter behandelt werden, das an jedem Punkt eines Multi-Prompt-Flows ausgelöst werden kann. Wenn du nur am Anfang routest, baust du nur eine etwas smartere Kette. Wenn du zwischen den Schritten routest, baust du ein adaptives System.
Ein Beispiel für den Schwenk mittendrin: Stell dir vor, ein Nutzer ist drei Schritte tief in einer „Kontoinformationen“-Kette. Er hat sich identifiziert und seinen Kontostand gesehen. Plötzlich fragt er: „Kann ich das Geld eigentlich direkt auf mein Sparkonto schieben?“ Eine statische Kette würde scheitern oder eine irrelevante Antwort geben, weil sie im „Kontoinfo-Skript“ gefangen ist. Ein System mit Routing zwischen den Schritten erkennt die Änderung der Absicht und wechselt den Flow zum Prompt für „Interne Überweisung“ – es „überlegt es sich anders“ basierend auf der neuen Eingabe.
Routing ist keine einzelne „Schranke“ am Anfang; es ist eine strukturelle Ebene, die in verschiedenen Tiefen auftreten kann.
Ohne Routing auf diesen Ebenen bricht die Spezialisierung zusammen. Du endest wieder beim „Gott-Prompt“ – einem einzigen, 2.000 Wörter langen Anweisungsset, das alles gleichzeitig versucht. Überladene Prompts sind der Ort, an dem Zuverlässigkeit stirbt. Durch verteiltes Routing stellst du sicher, dass:
Erinnerst du dich an unser Kundensupport-Beispiel vom Anfang? Wir alle waren schon mal in der „Telefonmenü-Hölle“ gefangen, in der jede Option in eine Sackgasse führt.
Genau wie ein Callcenter, das dich endlos weiterverbindet, schlimmer ist als eines, das Unsicherheit zugibt, muss Routing in KI-Systemen transparent und korrigierbar sein.
Wenn dein System eine Routing-Entscheidung trifft, die sich als falsch herausstellt, sollte es nicht „einfach durchziehen“ und auf das Beste hoffen. Es sollte die Fähigkeit haben, den Fehler zu erkennen und den Nutzer auf den richtigen Pfad umzuleiten.
Wenn du aufhörst darüber nachzudenken, „was als Nächstes in der Kette kommt“, und anfängst zu überlegen, „wohin das als Nächstes gehen sollte“, baust du keine komplizierten Skripte mehr, sondern resiliente Systeme.
Token
RAG
Aus dem KI-Glossar
Prompt
der; Nomen
Die Anweisung, die du einer KI gibst.
62 KI-Begriffe, klar erklärt.
Das Glossar für den Mittelstand, kostenlos als PDF.
Glossar herunterladenOnline nachschlagen →KI-Readiness-Check
12 Fragen zu Strategie, Daten, Prozessen und Menschen. Du siehst dein Ergebnis sofort, ganz ohne Anmeldung.
Prozesse
Daten & Technik
Dein Ergebnis
62 von 100
UMSETZUNG
Strategie & Führung
Daten & Technik
Prozesse
Menschen & Kompetenz