KI für Entscheidungen: Jev Modell im KMU

Strukturierte KI für Entscheidungen: der übersehene Hebel

Die meisten Unternehmen setzen große Sprachmodelle dort ein, wo Text entstehen soll. Der größere Hebel liegt aber oft woanders: bei den vielen kleinen Entscheidungen, die ein automatisierter Ablauf nebenbei treffen muss. Ist diese Anfrage dringend? Welches Werkzeug passt? Muss hier ein Mensch draufschauen? Für solche Weichenstellungen ein Modell zu bezahlen, das erst einen Text formuliert, ist teurer und langsamer als nötig.

Das Modell Jev des Anbieters TypeSafe geht einen anderen Weg. Es gibt keinen Text aus, sondern strukturierte Werte: ja oder nein, eine Auswahl, eine Zahl. Der aufwendigste Teil eines Sprachmodells — das Schreiben Wort für Wort — entfällt damit vollständig.

Was das in Zahlen bedeutet

Zwei belegte Angaben machen den Unterschied greifbar.

Antwortzeit: Heise berichtet von Antwortzeiten zwischen 70 und 500 Millisekunden. Das ist der Bereich, in dem eine Entscheidung im laufenden Prozess getroffen werden kann, ohne dass jemand wartet.

Preis: Laut derselben Quelle kostet der Input 0,042 US-Dollar pro Million Token. Das ist der Preis für die reine Entscheidung, nicht für einen formulierten Text.

Beides gilt für eine eng umrissene Aufgabe. Jev ersetzt kein großes Modell — es nimmt ihm die Kleinarbeit ab.

Wie das Modell arbeitet

Technisch beschreibt LangChain das Verfahren so: „It's trained using reinforcement learning for calibrated decisions (RLCD)." Trainiert wird also nicht auf plausible Formulierungen, sondern auf verlässliche Entscheidungen samt Wahrscheinlichkeitsangabe.

Der Unterschied ist praktisch relevant. Ein Sprachmodell, das „wahrscheinlich dringend" schreibt, gibt Ihnen einen Satz. Ein kalibriertes Entscheidungsmodell gibt Ihnen einen Wert, mit dem der nächste Schritt im Ablauf rechnen kann — und eine Zahl dazu, wie sicher es sich ist. Genau daran lässt sich eine Schwelle festmachen: Ab welchem Wert entscheidet die Maschine, ab welchem ein Mensch?

Die Einbindung läuft über LangChain und damit über eine Schnittstelle, die in den meisten Automatisierungsbaukästen bereits vorgesehen ist.

Wo sich der Einsatz lohnt

Der Nutzen entsteht dort, wo viele gleichartige Entscheidungen anfallen. Drei Beispiele, wie ich sie in Projekten sehe:

• Posteingang sortieren. Anfragen nach Dringlichkeit und Zuständigkeit einordnen, bevor sie jemand liest.
• Unterlagen auf Vollständigkeit prüfen. Sind alle erforderlichen Angaben da? Fehlt etwas, geht der Vorgang zurück, statt liegenzubleiben.
• Rechnungen vorprüfen. Plausibilität der Werte beurteilen und Abweichungen an die Buchhaltung weiterreichen.

In allen drei Fällen wird heute oft ein großes Modell aufgerufen — oder ein Mensch. Beides ist für die Frage „gehört das nach links oder nach rechts?" überdimensioniert.

Ein zweiter Vorteil ist die Übersichtlichkeit. Statt eines Modells, das alles ein bisschen kann, steht ein spezialisiertes Werkzeug im logischen Kern des Ablaufs. Das macht nachvollziehbar, warum ein Vorgang so und nicht anders gelaufen ist.

Grenzen — und was das für die Einführung heißt

Jev liefert keine Texte. Wird eine Erklärung, eine Zusammenfassung oder eine Kundenantwort gebraucht, kommt weiterhin ein Sprachmodell zum Einsatz. Das Ergebnis ist eine zweischichtige Architektur: ein schnelles Modell entscheidet, ein großes formuliert. Diese Trennung muss man bewusst bauen, sie ergibt sich nicht von selbst.

Die Qualität der Entscheidungen hängt daran, wie präzise die Frage gestellt ist. Eine unscharf formulierte Eingabe liefert einen unscharfen Wert — der dann aber wie eine belastbare Zahl aussieht. Auf diese Vorarbeit lege ich in Projekten den größten Teil der Zeit.

Datenschutz gehört von Anfang an dazu. Sobald personenbezogene Daten in eine automatisierte Entscheidung einfließen, greift die DSGVO: Transparenz darüber, wie entschieden wird, und die Möglichkeit menschlicher Überprüfung. Entscheidend ist dabei nicht das Modell allein, sondern welche Daten überhaupt an einen externen Dienst gehen und was mit dem Ergebnis geschieht. Diese Frage klärt man vor der Einführung, nicht danach.

Wie ich so etwas einführe

Zuerst sehe ich mir den bestehenden Ablauf an und suche die Stellen, an denen ausschließlich entschieden wird — keine Formulierung, keine Recherche, nur eine Weiche. Das sind oft Schritte, die heute manuell laufen oder von starren Regeln gesteuert werden, die niemand mehr pflegt.

Danach wird die Frage festgelegt, die das Modell beantworten soll, samt erlaubter Antwortwerte und der Schwelle, ab der ein Mensch übernimmt. Getestet wird mit echten Vorgängen aus dem Unternehmen, nicht mit ausgedachten Beispielen — nur so zeigt sich, ob die Entscheidungen taugen.

Zum Schluss steht eine Dokumentation: welche Entscheidung auf welcher Grundlage fällt, was sie kostet, und woran man merkt, dass etwas aus dem Ruder läuft. Automatisierung, die niemand mehr durchschaut, ist keine Entlastung.

Einordnung

Spezialisierte Entscheidungsmodelle werden generative Modelle nicht ersetzen. Sie ergänzen sie an der Stelle, an der bisher mit Kanonen auf Spatzen geschossen wurde. Für mittelständische Unternehmen ist das interessant, weil sich der Nutzen an einer einzelnen, klar umrissenen Stelle im Ablauf zeigt — und nicht erst nach einem Großprojekt.

Quellen: heise online und der LangChain-Blog, beide abgerufen am 24.09.2026.

Kostenloses Erstgespräch mit Jannis sichern: Jetzt Termin vereinbaren