Die Sandwich-Falle: Warum der klassische Mittelstand bei AI zurückfällt
Veröffentlicht am 3.9.2026 · André Hellmann
AI im Mittelstand wächst schnell. 54,5 Prozent der Unternehmen in Deutschland nutzen AI in ihren Geschäftsprozessen, im Vorjahr waren es 40,9 Prozent (Quelle: ifo Institut, 2026). Eine Zahl aus derselben Erhebung fällt aus dem Rahmen: Mittelgroße Unternehmen liegen nicht nur hinter den Großen. Sie liegen auch hinter den Kleinen.
Den nächsten Schritt im kostenlosen Diagnose-Call besprechen. Termin buchen →
Inhalt
- Hinter den Konzernen — und hinter den Kleinen
- Was die ifo-Zahlen zeigen
- Die Sandwich-Falle: zu groß für Ad-hoc, zu klein für ein AI-Team
- Was Hidden Champions anders machen können
- Einstieg ohne Risiko
- Fazit: Die Mitte braucht einen anderen Weg
- Häufige Fragen zu AI im Mittelstand
- Quellen
Hinter den Konzernen — und hinter den Kleinen
Dass Großunternehmen bei AI vorn liegen, überrascht niemand. Sie haben Budgets, Datenteams und eigene Abteilungen für so etwas.
Überraschend ist die zweite Hälfte des Befunds. Kleine Unternehmen nutzen AI häufiger als mittelgroße. 51,2 Prozent gegenüber 47,2 Prozent (Quelle: ifo Institut, 2026). Die Mitte liegt hinten.
Das ist kein Messfehler und kein Rundungseffekt. Es ist ein Strukturmuster — und es trifft genau die Unternehmen, die Deutschland als Hidden Champions exportiert.
Was die ifo-Zahlen zeigen
Das ifo Institut erhebt die AI-Nutzung deutscher Unternehmen regelmäßig im Rahmen seiner Konjunkturumfragen. Der Stand von Juni 2026: 54,5 Prozent nutzen AI in ihren Geschäftsprozessen, nach 40,9 Prozent im Vorjahr (Quelle: ifo Institut, 2026).
Nach Größenklassen aufgeschlüsselt ergibt sich ein ungewöhnliches Bild.
Große Unternehmen kommen auf 67,2 Prozent, kleine auf 51,2 Prozent, mittlere auf 47,2 Prozent (Quelle: ifo Institut, 2026). Die Reihenfolge ist nicht linear — und genau das ist der Befund.
Ein zweiter Wert aus derselben Erhebung erklärt einen Teil davon. Nur 18,7 Prozent der AI-nutzenden Unternehmen entwickeln eigene AI-Systeme. Knapp drei Viertel nutzen kostenpflichtige externe Lösungen, 48,4 Prozent zusätzlich kostenlose Anwendungen (Quelle: ifo Institut, 2026). AI kommt fast überall von außen. Die Frage ist nur, wie gut sie eingebaut wird.
Wo ein Unternehmen selbst steht, zeigt der kostenlose Self-Check in wenigen Minuten.
Die Sandwich-Falle: zu groß für Ad-hoc, zu klein für ein AI-Team
Warum fällt ausgerechnet die Mitte zurück? Die Erklärung liegt nicht in der Technik, sondern in der Betriebsgröße.
Kleine Unternehmen können einfach anfangen. Zwanzig Leute, kurze Wege, keine Betriebsvereinbarung. Wer eine gute Idee hat, probiert sie am Montag aus. AI kommt über einzelne Personen ins Haus und breitet sich informell aus. Das ist unsauber, aber schnell.
Große Unternehmen können es organisieren. Sie haben eine IT-Abteilung, ein Datenschutzteam, oft eine eigene Einheit für AI. Sie bauen Strukturen, weil sie die Stellen dafür besetzen können.
Die Mitte kann beides nicht. Sie ist zu groß für den informellen Weg — bei 600 Mitarbeitenden funktioniert „einfach ausprobieren” nicht mehr, sobald Kundendaten im Spiel sind. Und sie ist zu klein für den strukturellen Weg. Für eine eigene AI-Abteilung fehlt die Auslastung, und der IT-Leiter hat bereits zwei andere Vollzeitrollen.
Die Mitte scheitert nicht an der Technologie. Sie scheitert daran, dass niemand für AI zuständig ist, ohne dafür etwas anderes liegen zu lassen.
Dazu kommt ein Effekt, den Zahlen selten zeigen. Der klassische Mittelstand hat funktionierende Prozesse. Genau das erhöht die Hürde: Wer seit fünfzehn Jahren eine eingespielte Angebotserstellung hat, ändert sie nicht wegen eines Werkzeugs, dessen Nutzen noch niemand beziffert hat.
Das Muster dahinter ist der Implementation Gap in seiner deutschen Ausprägung: nicht fehlende Werkzeuge, sondern fehlender Umbau.
Was Hidden Champions anders machen können
Die gute Nachricht steckt in derselben Erhebung. Wenn AI ohnehin von außen kommt — nur 18,7 Prozent bauen selbst — dann ist die Eigenentwicklung nicht der Engpass. Der Engpass ist der Einbau in den Betrieb.
Das ist eine Fähigkeit, keine Abteilung. Vier Dinge machen den Unterschied:
- Einen Ablauf statt eines Werkzeugs auswählen. Nicht „wir führen AI ein”, sondern „wir kürzen die Bearbeitungszeit für Ausschreibungsprüfungen”. Ein Ablauf hat einen Anfang, ein Ende und ein Mengengerüst.
- Verantwortung benennen, ohne eine Stelle zu schaffen. Eine Person aus dem Fachbereich, nicht aus der IT, mit klar begrenztem Zeitbudget. AI-Betrieb braucht Fachwissen über den Ablauf, nicht über das Modell.
- Betriebsfähig bauen, nicht pilotfähig. Ein Pilot muss überzeugen, ein Betrieb muss laufen. Der Unterschied entscheidet sich in der Konstruktion, nicht in der Bewertung.
- Externe Betriebskompetenz einkaufen statt aufbauen. Genau das ist die Lücke zwischen zu groß und zu klein — sie lässt sich mit einem Partner schließen, ohne eine Abteilung zu gründen.
Der letzte Punkt ist der eigentliche Ausweg aus der Sandwich-Falle. Ein mittelständischer Maschinenbauer braucht keine eigene AI-Einheit. Er braucht jemanden, der AI als Funktion betreibt — so wie er auch seine Lohnbuchhaltung nicht selbst programmiert.
Wie dieser Betrieb strukturiert ist, beschreiben unsere Engagement Steps im Detail.
Einstieg ohne Risiko
Der häufigste Fehler in der Mitte ist der zu große erste Schritt. Ein Jahresprojekt mit Lenkungskreis erzeugt Aufwand, bevor es Erkenntnis erzeugt.
Der bessere Weg beginnt kleiner: ein Ablauf, sechs Wochen, eine Zahl. Wenn die Zahl trägt, folgt der zweite Ablauf. Wenn nicht, war der Einsatz überschaubar. Warum wir grundsätzlich so einsteigen, beschreibt der Beitrag Einstieg ohne Risiko.
Und weil die Messbarkeit dabei über alles entscheidet: Wie sich der Nutzen sauber belegen lässt, klärt der Beitrag zum AI-ROI.
Welcher Ablauf sich im konkreten Fall eignet, ordnen wir im kostenlosen Diagnose-Call ein.
Fazit: Die Mitte braucht einen anderen Weg
Der klassische Mittelstand liegt bei AI hinter Konzernen und hinter Kleinbetrieben (Quelle: ifo Institut, 2026). Das liegt nicht an mangelnder Bereitschaft, sondern an einer Größe, für die weder der informelle noch der strukturelle Weg funktioniert.
Der Ausweg ist unspektakulär. Nicht mehr Werkzeuge, nicht mehr Strategie, sondern Betriebsfähigkeit: ein benannter Ablauf, eine verantwortliche Person, eine Kennzahl, ein Partner für den laufenden Betrieb.
Die Alternative ist absehbar. AI-Nutzung wächst in allen Größenklassen weiter. Wer als Einziger nicht umbaut, verliert nicht schlagartig — sondern langsam, über Angebotsgeschwindigkeit und Reaktionszeiten, die andere unterbieten.
Häufige Fragen zu AI im Mittelstand
Wie viele mittelständische Unternehmen nutzen AI?
Mittelgroße Unternehmen in Deutschland kommen auf 47,2 Prozent, kleine auf 51,2 Prozent und große auf 67,2 Prozent. Im Gesamtdurchschnitt nutzen 54,5 Prozent AI in ihren Geschäftsprozessen (Quelle: ifo Institut, 2026).
Warum liegt der Mittelstand hinter kleinen Unternehmen?
Weil beide Wege für ihn schlecht passen. Für den informellen Weg ist er zu groß, für eine eigene AI-Abteilung zu klein. Kleine Firmen probieren einfach aus, große organisieren es. Die Mitte hat für beides die falsche Größe.
Braucht ein Mittelständler ein eigenes AI-Team?
In der Regel nicht. Nur 18,7 Prozent der AI-nutzenden Unternehmen entwickeln eigene Systeme (Quelle: ifo Institut, 2026). Der Engpass liegt nicht in der Entwicklung, sondern im Einbau in bestehende Abläufe — das lässt sich mit einem Partner lösen.
Womit sollte ein mittelständisches Unternehmen anfangen?
Mit einem wiederkehrenden Ablauf, der Geld berührt und ein Mengengerüst hat: Angebotserstellung, Ausschreibungsprüfung, Reklamationsbearbeitung. Sechs Wochen genügen für eine erste belastbare Zahl.
Was kostet der Einstieg?
Das hängt vom Ablauf ab, nicht von der Unternehmensgröße. Welcher Einstieg im konkreten Fall sinnvoll ist, klären wir im kostenlosen Diagnose-Call.