Wie ein Seniorentaxi-Unternehmen aus Süddeutschland mit 24 Mitarbeitenden ein internes RAG-System aufgebaut hat — und warum das Mittelstands-tauglich ist.
Ausgangslage
Ein Familienunternehmen, das Senioren zu Arzt-, Therapie- und Behördenterminen fährt. 24 Mitarbeitende, davon 18 im Fahrdienst, 4 in der Disposition, 2 in der Geschäftsführung. Das Wissen der Disposition — welcher Patient braucht welche Hilfe, welche Apotheke akzeptiert welche Krankenkasse, welche Praxis hat barrierefreien Zugang — saß in Köpfen und Excel-Listen.
Problem: Wenn die Disponentin Urlaub hatte, stand der Betrieb. Onboarding neuer Disponent:innen dauerte sechs Monate. Anfragen außerhalb der Bürozeit gingen verloren.
Die Lösung in drei Schritten
Schritt 1: Wissen sammeln
Sechs Wochen lang hat die Geschäftsführung mit der Hauptdisponentin täglich 30 Minuten zusammengesessen. Sie hat Fragen beantwortet, die sonst telefonisch kamen — und die Antworten wurden strukturiert dokumentiert. Ergebnis: eine Wissensdatenbank mit 340 Einträgen, von 'Welche Apotheken in Stuttgart-Mitte sind rollstuhlgerecht?' bis 'Wie buche ich einen Krankentransport bei der AOK?'.
Schritt 2: System bauen
Mit einer Open-Source-Lösung (LangChain + lokales Embedding-Modell + Mistral-7B als Generator) wurde ein RAG-Assistent aufgesetzt. Die Daten bleiben auf dem firmeneigenen Server. Kosten: ca. 3.500 € einmalig (Hardware + Setup), ca. 80 €/Monat Betrieb.
Schritt 3: Integration
Das System wurde nicht als App eingeführt, sondern in die bestehenden Tools integriert: Disposition fragt im internen Chat, neue Disponent:innen haben einen Chat-Assistenten als Onboarding-Begleiter. Außerhalb der Bürozeit beantwortet ein Voice-Bot Anrufe und sammelt Buchungswünsche strukturiert.
Ergebnisse nach 9 Monaten
- Onboarding-Dauer: von 6 Monaten auf 8 Wochen
- Telefon-Aufkommen tagsüber: -32 % (mehr Selbstbedienung über Web-Chat)
- Buchungen außerhalb Bürozeit: +47 % (Voice-Bot)
- Krankheits-Risiko Disposition: deutlich entschärft, weil Wissen extern abrufbar
- ROI: nach 11 Monaten
Wir haben kein KI-Projekt gemacht. Wir haben ein Wissens-Projekt gemacht — die KI war das Werkzeug.
— Geschäftsführer (anonymisiert)
Was wir daraus gelernt haben
1. Daten sind 80 % der Arbeit
Die sechs Wochen Wissens-Strukturierung waren der teuerste Teil. Das System aufzusetzen ging in einer Woche. Wer das umkehrt, scheitert.
2. Klein anfangen, klein bleiben
340 Einträge sind genug. Manche Beratungshäuser hätten 3.400 angelegt. Mehr Daten heißt nicht besser — es heißt nur mehr Wartung.
3. Integration > Innovation
Die wichtigste Entscheidung war, das System nicht als 'KI-App' zu vermarkten, sondern als Erweiterung des Chats. Akzeptanz war hoch, weil niemand etwas Neues lernen musste.
Was das für Sie bedeutet
RAG funktioniert im Mittelstand — wenn der Use Case klar, die Datenmenge überschaubar und die Integration leichtgewichtig ist. Es ist kein Allheilmittel. Aber für Wissensarbeit, wo Antworten auf wiederkehrende Fragen das tägliche Geschäft prägen, ist es eine der besten KI-Investitionen, die ein mittelständisches Unternehmen heute machen kann.
Im AIM-Lehrgang (8 Termine, ab Januar) ist RAG ein eigenes Praxis-Modul. Teilnehmende identifizieren einen RAG-tauglichen Use Case im eigenen Unternehmen — und gehen mit Architektur und Roadmap nach Hause.