Strategische KI-Einführung im Mittelstand: von der KI-Idee zur Go/No-Go-Entscheidung

Strategische KI-Einführung im Mittelstand bedeutet nicht, möglichst schnell ChatGPT, Copilot oder ein neues Automatisierungstool auszurollen. Sie bedeutet, aus KI-Ideen eine belastbare Management-Entscheidung zu machen: Was lohnt sich, was ist regulatorisch tragfähig, welche Ressourcen braucht es und was sollte bewusst gestoppt werden?

Ich sehe in vielen Unternehmen denselben Reflex: Erst wird ein Tool gekauft, dann sucht man den passenden Prozess. Das wirkt aktiv, ist aber selten strategisch. Laut MIT GenAI Divide 2025 scheitern rund 95 Prozent der KI-Projekte daran, dass sie keinen messbaren Beitrag zur Wertschöpfung liefern. Aus meiner Erfahrung liegt das selten an der Technologie. Es liegt daran, dass vor der Technologie keine saubere Entscheidungslogik gebaut wurde.

Für mich ist KI-Strategie im Mittelstand die Verbindung aus Zielbild, Use Case, Prozessklarheit, Verantwortlichkeiten, Governance, Enablement und messbaren KPIs. Erst wenn diese Elemente zusammenarbeiten, wird aus einem Pilotprojekt eine Entscheidungsvorlage. Genau deshalb arbeite ich mit Unternehmen nicht zuerst an der Toolauswahl, sondern am System dahinter.

1. Der erste Fehler: KI als Technologieprojekt behandeln

Warum das fast immer zu kurz greift

KI berührt im Unternehmen selten nur einen Arbeitsbereich. Ein Lead-Scoring betrifft Marketing, Vertrieb, CRM, Datenschutz, Reporting und Führung. Ein KI-Chatbot betrifft Service, Content, Legal, Qualitätssicherung und Kundenerlebnis. Eine Forecast-Lösung betrifft Datenqualität, Pipeline-Disziplin, Vertriebssteuerung und Budgetentscheidungen.

Wenn KI als reines IT-Projekt gestartet wird, fehlen genau diese Verbindungen. Wenn KI als reines Fachbereichsprojekt gestartet wird, fehlen Architektur, Sicherheit und Skalierbarkeit. Und wenn KI als reines Innovationsprojekt gestartet wird, fehlt häufig die wirtschaftliche Verantwortung.

Kurz gesagt: KI ist kein Tool-Projekt. KI ist ein Führungs-, Prozess- und Steuerungsthema.

Was ich stattdessen prüfe

Ich beginne mit fünf Fragen: Welches Problem soll KI lösen? Welche Abteilung trägt den wirtschaftlichen Nutzen? Welche Daten und Prozesse sind dafür nötig? Wer entscheidet bei Konflikten? Und woran erkennt die Geschäftsführung nach sechs Wochen, ob der Einsatz funktioniert?

Diese Fragen klingen einfach. In der Praxis sind sie oft nicht beantwortet. Genau dort entsteht der Wert eines externen Sparringspartners: Ich bin nicht Teil der internen Gewohnheiten, ich muss keine Abteilungslogik verteidigen und kann die unbequemen Punkte sichtbar machen.

2. Das strategische Fundament: WHY, HOW, WHAT

WHY: Warum KI in eurem Unternehmen?

Das WHY ist nicht „Wir wollen KI nutzen“. Das ist nur Aktivität. Ein gutes WHY beschreibt den geschäftlichen Zweck. Zum Beispiel: Wir wollen Angebotsprozesse beschleunigen, ohne Qualität zu verlieren. Wir wollen Leads besser priorisieren, damit Vertrieb seine Zeit auf kaufbereite Kontakte verwendet. Wir wollen Wissensarbeit skalieren, ohne mehr Abstimmungsschleifen zu erzeugen.

In meinem MASAKI-Framework kommt Automation/KI bewusst erst nach Marketing, Alignment und Sales. Der Grund ist einfach: KI verstärkt, was bereits vorhanden ist. Wenn die Lead-Definition unscharf ist, verstärkt KI Unschärfe. Wenn CRM-Daten schlecht sind, skaliert KI schlechte Entscheidungen. Wenn Führung keine gemeinsamen KPIs setzt, optimiert jedes Team weiter für sich.

HOW: Wie wird aus Strategie Umsetzung?

Ich kombiniere dafür drei Arbeitsweisen. OKRs sorgen für Zielklarheit. Agile Piloten sorgen für Geschwindigkeit. Change Management sorgt dafür, dass Menschen nicht nur informiert, sondern beteiligt werden. Diese Kombination ist wichtig, weil KI-Projekte gleichzeitig strategisch, operativ und kulturell sind.

WHAT: Was wird konkret aufgebaut?

Am Ende braucht jedes Unternehmen vier Bausteine: eine KI-Taskforce mit Mandat, eine priorisierte Use-Case-Landkarte, ein Governance-Modell für Daten und Risiken sowie einen Enablement-Plan für die Teams. Ohne diese Bausteine bleibt KI abhängig von einzelnen Enthusiasten. Mit ihnen wird KI steuerbar.

3. People: Warum KI-Einführung an Menschen gewinnt oder verliert

Der People-Teil ist kein weicher Begleitaspekt. Er entscheidet, ob KI im Alltag genutzt, ignoriert oder aktiv umgangen wird. Gerade im Mittelstand sind Prozesse oft stark von Erfahrung, persönlichem Kundenwissen und eingespielten Routinen geprägt. Wenn KI dort als Kontrolle, Zusatzarbeit oder Bedrohung wahrgenommen wird, entsteht Widerstand. Nicht laut, sondern praktisch: Das Tool wird nicht gepflegt, Ergebnisse werden nicht vertraut, Empfehlungen werden übersteuert.

Deshalb behandle ich People nicht als Change-Kommunikation am Ende, sondern als eigenes Arbeitspaket von Anfang an. Vor dem Pilot kläre ich: Wer arbeitet später mit der Lösung? Wer verliert scheinbar Kontrolle? Wer gewinnt Zeit? Wer muss Ergebnisse bewerten können? Und welche Entscheidung bleibt bewusst menschlich?

Was People in einem KI-Projekt konkret bedeutet

• Akzeptanz: Teams müssen verstehen, warum der Use Case wichtig ist und welche Arbeit er wirklich erleichtert.
• Enablement: Menschen brauchen klare Prompts, Beispiele, Grenzen und Bewertungskriterien, nicht nur eine Tool-Einweisung.
• Rollen: Es muss klar sein, wer Input liefert, wer Ergebnisse prüft, wer entscheidet und wer bei Fehlern reagiert.
• Vertrauen: KI-Ausgaben müssen nachvollziehbar genug sein, damit Fachbereiche sie fachlich ernst nehmen.

In der Praxis ist People oft der Hebel, der entscheidet, ob aus einem guten Konzept ein funktionierender Prozess wird. Eine technisch mittelmäßige Lösung mit hoher Akzeptanz kann verbessert werden. Eine technisch gute Lösung ohne Vertrauen bleibt liegen.

4. Mein Modell: 5 Phasen bis zur Entscheidung. Phase 6 nur bei Go.

Die Reihenfolge ist entscheidend. Die ersten sechs Wochen sind kein vollständiger Enterprise-Rollout, sondern der Weg zu einem entscheidungsreifen KI-Fundament. Wer Governance oder Finetuning überspringt, spart scheinbar Zeit und verliert sie später doppelt: durch schlechte Daten, unklare Verantwortlichkeiten, geringe Akzeptanz oder eine Automatisierung, die fachlich nicht sauber genug ist.

Kurz gesagt: Das Startpaket endet bewusst mit einer Entscheidung. Scaling und laufende Optimierung beginnen erst dann, wenn Use Case, Governance, Prozess und Team-Akzeptanz tragfähig sind.

Warum ich mit Piloten arbeite, aber nicht in Pilotitis enden will

Ein Pilot ist nur dann sinnvoll, wenn er innerhalb der sechs Wochen eine klare Entscheidung vorbereitet: bauen, anpassen oder stoppen. Dafür braucht er eine Baseline. Wie lange dauert der Prozess heute? Wie hoch ist die Fehlerquote? Welche Kosten entstehen pro Ergebnis? Welche Conversion oder Qualitätsverbesserung erwarten wir?

Ohne diese Messpunkte ist ein Pilot nur eine Demo. Mit diesen Messpunkten wird er zur Entscheidungsgrundlage.

5. Rollen und Verantwortung: Wer muss an den Tisch?

KI-Einführung braucht ein klares Betriebsmodell. Ich empfehle eine schlanke Taskforce, die nicht diskutiert, um zu diskutieren, sondern Entscheidungen vorbereitet und nachhält.

• Geschäftsführung: Prioritäten, Budget, Risikoappetit, Entscheidungsmandat.
• Fachbereich: Prozesswissen, Use Cases, Nutzenhypothese, Abnahme.
• IT und Data: Architektur, Integrationen, Sicherheit, Betrieb, Monitoring.
• Legal und Datenschutz: DSGVO, EU AI Act, Dokumentationspflichten, Anbieterprüfung.
• HR und Führungskräfte: Rollenprofile, Schulungen, Akzeptanz, Kommunikation.
• Externer Sparringspartner: Struktur, Priorisierung, kritische Fragen, Übersetzung zwischen Business und Technologie.

Gerade der letzte Punkt wird unterschätzt. In meinen 20+ Jahren Erfahrung mit Marketing, Vertrieb, Transformation und Automatisierung bei Stationen wie EY, etventure und Ogilvy habe ich gelernt: Interne Teams kennen die Details. Externe Sparringspartner sehen die Muster. Beides zusammen macht Projekte schneller und belastbarer.

6. Readiness-Check: Was vor dem Start geprüft werden muss

Bevor ein Unternehmen KI skaliert, prüfe ich fünf Felder. Nicht als theoretische Checkliste, sondern als Entscheidungsgrundlage für das 6-Wochen-Projekt.

• Infrastruktur: Sind Daten verfügbar, sauber, zugänglich und sicher nutzbar?
• Skills: Verstehen die Teams genug, um KI sinnvoll einzusetzen und Ergebnisse zu bewerten?
• Compliance: Sind Rechtsgrundlagen, Datenflüsse, Anbieter und Dokumentation geklärt?
• Kultur: Gibt es Akzeptanz, Führungskommunikation und echte Beteiligung?
• Business Fit: Ist der Use Case relevant genug, um Aufwand, Risiko und Betrieb zu rechtfertigen?

Wenn zwei dieser Felder kritisch sind, starte ich nicht mit Skalierung. Dann wird zuerst stabilisiert. Das ist keine Bremse, sondern Beschleunigung mit Verstand.

7. Risikomanagement: Was KI-Projekte im Mittelstand kippen lässt

Kultureller Widerstand

Menschen haben selten Angst vor KI als Technologie. Sie haben Angst vor Kontrollverlust, Jobverlust oder Bewertung durch Systeme, die sie nicht verstehen. Deshalb muss Kommunikation konkret sein: Was ändert sich? Was bleibt menschlich? Welche Entscheidungen trifft KI nicht?

Datenschutz und EU AI Act

KI-Governance beginnt nicht erst, wenn der Pilot live ist. Sie beginnt bei der Use-Case-Auswahl. Wer personenbezogene Daten, Kundendaten oder sensible Entscheidungsprozesse einbindet, braucht saubere Dokumentation. Mehr dazu habe ich im Artikel zu DSGVO, EU AI Act und KI-Compliance beschrieben.

Technische Fragmentierung

Wenn jede Abteilung eigene Tools einkauft, entstehen Schattenprozesse, doppelte Datenhaltung und steigende Integrationskosten. Deshalb braucht KI eine Architekturentscheidung: Was ist zentral? Was darf lokal angepasst werden? Was wird dokumentiert?

8. KPIs: Woran gute KI-Strategie gemessen wird

Ich arbeite bei KI-Einführung mit vier KPI-Ebenen. Erst alle zusammen zeigen, ob ein Projekt wirklich trägt.

• People-KPIs: Nutzungsquote, Akzeptanz, Trainingsfortschritt, Qualität des Feedbacks.
• Prozess-KPIs: Durchlaufzeit, Fehlerquote, Übergabequalität, Nacharbeit.
• Business-KPIs: Kosten pro Ergebnis, Conversion, Win Rate, Umsatzwirkung, Marge.
• Governance-KPIs: dokumentierte Entscheidungen, Audit-Fähigkeit, Compliance-Abweichungen.

Für Vertrieb und Marketing ist der Zusammenhang besonders deutlich. Wenn Marketing und Vertrieb nicht sauber ausgerichtet sind, wird KI nur schneller falsche Leads priorisieren oder falsche Daten interpretieren. Genau deshalb verlinkt dieser Artikel auch direkt zu meinem Beitrag Warum KI euren Umsatz nicht rettet.

9. Der 4-Stunden-Kick-off: Wie ich den Start strukturiere

Ein guter KI-Kick-off ist kein Inspirationsworkshop. Er ist ein Entscheidungsformat. In mindestens vier Stunden geht es um Zielbild, Chancen, Risiken, Datenlage, Use Cases, Akzeptanz, Governance und den ersten Entscheidungsrahmen.

Ich arbeite dabei bewusst mit Geschäftsführung, Fachbereichen, IT/Data und Datenschutz gemeinsam. KI darf nicht im Elfenbeinturm entstehen. Die Menschen, die später damit arbeiten sollen, müssen früh genug eingebunden sein.

Das Ergebnis nach dem Kick-off

• ein klares Zielbild mit Entscheidungsrahmen,
• ein priorisierter erster KI-Use-Case,
• erste Owner, Rollen und offene Verantwortungsfragen,
• eine Risiko-, Daten- und Governance-Liste,
• ein belastbarer Arbeitsplan für die sechs Wochen.

10. 6 Wochen: Was sofort passieren sollte

Woche 1: Klarheit schaffen

Taskforce bilden, Zielbild formulieren, Readiness-Check durchführen, relevanten Prozess auswählen. Noch keine große Toolentscheidung. Erst verstehen, wo KI wirklich helfen kann.

Woche 2: Governance und Pilotdesign sauber aufsetzen

Für den Pilot werden DSGVO-/EU-AI-Act-Fragen, Datenflüsse, Anbieterlogik, Baseline, Owner, KPI, Risiko und Go/No-Go-Kriterium definiert. Erst dann wird umgesetzt.

Woche 3 bis 4: Umsetzen und testen

Der priorisierte Use Case wird gebaut, in den Arbeitsprozess eingebettet und mit echten Anwendern getestet. Entscheidend ist nicht Perfektion, sondern belastbares Lernen.

Woche 5 bis 6: Finetuning und Entscheidung

Jetzt wird nachgeschärft: Prompts, Übergaben, Datenqualität, Fehlerszenarien, Verantwortlichkeiten und Akzeptanz. Diese Phase trennt eine nette Demo von einem Prozess, den Teams wirklich nutzen. Am Ende steht eine klare Go/No-Go-Entscheidung.

Die Entscheidung nach 6 Wochen: Bauen, anpassen oder stoppen

Die Ergebnisse werden geprüft: Was spart Zeit? Was verbessert Qualität? Was kostet im Betrieb mehr als gedacht? Was ist organisatorisch und regulatorisch tragfähig? Danach steht eine klare Entscheidung für den nächsten Schritt.

Optional ab Woche 7: Scaling und Optimierung

Wenn der Use Case trägt, beginnt ab Woche 7 ein separates Folgeprodukt: Rollout, Betriebsmodell, Monitoring, Enablement, Kostenkontrolle und kontinuierliche Verbesserung. KI wird nicht einmal eingeführt und ist dann fertig. Sie wird betrieben, gelernt und verbessert.

11. Fazit: KI wird dann stark, wenn sie Teil des Betriebssystems wird

Strategische KI-Einführung ist kein Innovationsprogramm am Rand. Sie verändert, wie Unternehmen entscheiden, arbeiten, messen und lernen. Genau deshalb muss sie sauber geführt werden.

Mein Anspruch ist nicht, Unternehmen das nächste Tool zu empfehlen. Mein Anspruch ist, mit Geschäftsführung, Marketing, Vertrieb und operativen Teams herauszuarbeiten, wo KI wirklich Wert schafft und was vorher stabilisiert werden muss. Das ist ehrlicher. Und es ist wirtschaftlicher.

Häufige Fragen

Was Entscheider am häufigsten fragen