Im Mittelstand wird KI gerade in Tool-Lizenzen gemessen. Wer ChatGPT Enterprise hat, gilt als KI-aktiv. Wer drei Microsoft-Copilot-Seats kauft, hat 'eine Strategie'. Das ist keine Strategie. Das ist Einkauf.
Die Tool-Falle
Wir sehen es in Beratungsgesprächen jede Woche: Ein Mittelständler führt drei, vier oder sieben KI-Tools parallel ein — Copilot, ChatGPT Enterprise, ein RAG-Plugin im CRM, ein Bild-Tool für Marketing, ein Speech-to-Text für Support. Niemand kennt die Gesamtkosten. Niemand misst Nutzen. Die IT trägt fünf neue Datenflüsse auf der Risikomatrix nach, der Datenschutzbeauftragte kommt nicht hinterher, und das Controlling fragt im nächsten Forecast, was eigentlich der ROI war.
Die Antwort lautet meistens: Wir testen ja noch. Das ist nicht falsch — aber es ist auch keine Strategie. Es ist eine Tool-Sammlung mit Hoffnungswert.
Was Infrastruktur bedeutet
Eine KI-Infrastruktur ist keine Tool-Liste. Sie ist die Antwort auf vier Fragen, die ein Unternehmen für sich verbindlich beantworten muss — bevor es das nächste Tool kauft:
- Welche Daten stehen KI-Systemen unter welchen Bedingungen zur Verfügung?
- Welche Prozesse sind KI-fähig — und welche bleiben bewusst menschlich?
- Welche Verantwortung trägt wer für KI-Outputs (Fachlich, Rechtlich, Ethisch)?
- Welche Kompetenzen brauchen Mitarbeitende, um KI sinnvoll zu nutzen?
Sobald diese Fragen beantwortet sind, wird die Tool-Auswahl trivial. Die meisten Unternehmen kaufen aber Tools, bevor sie die Fragen stellen. Daher das Chaos.
Vier Ebenen einer KI-Infrastruktur
1. Daten-Ebene
Welche Daten existieren? In welcher Qualität? Wer darf sie sehen? Sind sie strukturiert genug, dass ein RAG-System sie nutzen kann? Im Mittelstand ist diese Ebene meist die größte Baustelle — nicht weil Daten fehlen, sondern weil sie auf 17 Sharepoints, im ERP, im Handy des Vertriebs und in PDFs aus 2014 verteilt sind.
2. Prozess-Ebene
Welche Prozesse profitieren von KI? Welche werden beschleunigt, welche verändert, welche ersetzt? Welche bleiben bewusst manuell — etwa weil Haftung, Vertrauen oder Tarifvertrag dagegen sprechen?
3. Governance-Ebene
Wer entscheidet über Einsatz, Freigabe, Abschaltung? Wie werden Outputs geprüft? Wer ist im Schadensfall haftbar? Der EU AI Act zwingt diese Fragen ab August 2026 in eine formale Struktur — wer jetzt nicht beginnt, baut später unter Druck.
4. Kompetenz-Ebene
Welche Mitarbeitenden brauchen welche KI-Kompetenz? Hinweis: nicht alle die gleiche. Eine Vertriebsmitarbeiterin braucht andere Skills als ein Controller, eine Geschäftsführerin andere als ein Servicetechniker. Die Gießkanne ist hier besonders teuer.
Wer KI als Tool kauft, kauft Geschwindigkeit. Wer KI als Infrastruktur baut, kauft Hebel.
— Prof. Dr. Bloos
Drei Anti-Patterns aus Beratungsmandaten
Anti-Pattern 1: Der KI-Beauftragte als Einzelkämpfer
Geschäftsführung ernennt eine Person zum 'KI-Beauftragten' — meistens jemand aus der IT — und delegiert das gesamte Thema. Nach sechs Monaten ist die Person frustriert, hat zwei Tools eingeführt, aber nichts strukturell bewegt. Lösung: KI ist ein Geschäftsführungsthema, kein Stabsthema. Kompetenz wird verteilt, nicht zentralisiert.
Anti-Pattern 2: Die Schulung-statt-Strategie
Unternehmen schickt 80 Mitarbeitende zu einer ChatGPT-Schulung. Drei Monate später nutzen 12 das Tool, alle anderen nicht. Niemand weiß warum. Lösung: Kompetenzaufbau folgt der Strategie, nicht umgekehrt. Erst klären, wofür KI eingesetzt wird, dann gezielt schulen.
Anti-Pattern 3: Die Pilot-Pilot-Pilot-Schleife
Drei KI-Pilotprojekte laufen, alle 'erfolgreich', keines geht in Produktion. Der Grund: Pilot-Erfolg wurde nicht an Produktions-Kriterien gemessen. Lösung: Piloten haben harte Übergangs-Kriterien — und ein Veto-Recht der Linienorganisation.
Reifegrad-Check in 5 Minuten
Beantworten Sie diese Fragen ehrlich. Wer mehr als zwei Mal 'Nein' antwortet, baut Tools, keine Infrastruktur:
- Kennen Sie die Top-3 KI-Anwendungsfälle in Ihrem Unternehmen mit konkretem Geschäftswert?
- Wissen Sie, welche Mitarbeitenden welche KI-Kompetenz brauchen — differenziert nach Funktion?
- Haben Sie eine schriftliche Regelung, wer KI-Outputs freigibt, prüft, dokumentiert?
- Können Sie die Gesamtkosten Ihrer KI-Aktivitäten (Tools, Lizenzen, Personal) auf Eurobetrag genau nennen?
- Haben Sie eine Roadmap, wie Sie bis Ende 2026 EU-AI-Act-konform sind?
Fazit
Tools sind nicht das Problem. Tool-denken ist das Problem. Eine KI-Infrastruktur entsteht nicht, indem man sieben Tools kauft, sondern indem man die vier Ebenen — Daten, Prozesse, Governance, Kompetenz — entlang konkreter Geschäftsfälle systematisch aufbaut.
Der Mittelstand hat einen Vorteil, den Konzerne nicht haben: kurze Wege. Wenn Geschäftsführung, IT-Leitung und zwei Schlüsselbereiche an einem Tisch sitzen, ist eine erste Roadmap an einem Vormittag fertig. Das ist nicht trivial — aber es ist machbar.
Wer hier startet, baut den Hebel. Wer Tools kauft, bezahlt Lizenzen.