Modelle wechseln, Daten bleiben: Wohin die KI-Investition im Mittelstand gehört
KI besteht aus zwei Schichten: austauschbare Modelle und Ihre eigene Datenschicht. Warum Ihre KI-Investition in die Daten gehört, nicht ins nächste Modell.
KI besteht aus zwei Schichten: Der Modell-Schicht, die wechselt und allen gehört, und der Daten-Schicht, die bleibt und nur Ihnen gehört. Investitionen in Modelle veralten mit dem nächsten Release, Investitionen in die Daten-Schicht zahlen auf jedes künftige Modell ein. Laut KfW hat sich der KI-Einsatz im Mittelstand von 4 auf 20 Prozent verfünffacht. Dieser Artikel zeigt, wohin Ihre KI-Investition gehört.
Das Wichtigste in Kürze
KI im Unternehmen besteht aus zwei Schichten. Die Modell-Schicht (GPT, Claude, Gemini und ihre Nachfolger) wechselt ständig, wird von allein besser und ist für alle gleich verfügbar, auch für den Wettbewerber. Die Daten-Schicht bleibt, gehört nur Ihnen und wird nicht von allein besser: Sie will bewirtschaftet werden durch Erweitern, Aggregieren und Pflegen. Jede Investition in die Modell-Schicht veraltet mit dem nächsten Release, jede Investition in die Daten-Schicht zahlt auf jedes künftige Modell ein. Ein KI-Ergebnis entsteht aus Modell mal Prompt-Handwerk mal zugänglichem Wissen, und nur die letzte Zutat gehört Ihnen allein. Laut Gartner werden 60 Prozent aller KI-Projekte ohne KI-fähige Datenbasis bis Ende 2026 abgebrochen.
Aus welchen zwei Schichten besteht KI im Unternehmen?
Wenn Sie über KI-Investitionen entscheiden, hilft ein einfaches Bild, das Sie durch jede Anbieter-Präsentation trägt: KI im Unternehmen besteht aus zwei Schichten.
Oben liegt die Modell-Schicht. Das sind die großen Sprachmodelle, GPT, Claude, Gemini und in einem halben Jahr das nächste. Unten liegt die Daten-Schicht Ihres Unternehmens, Ihre Produkte, Preise, Kunden, Dokumente und Prozesse. Beide Schichten zusammen ergeben ein KI-Ergebnis, und der entscheidende Satz dazu lautet: Jedes Modell ist immer nur so gut wie die Schicht darunter.
Diese Unterscheidung klingt simpel, wird aber in den meisten Investitionsentscheidungen ignoriert. Das Geld und die Aufmerksamkeit fließen fast immer nach oben, in die Modellwahl, in Lizenzen, in Tools. Und fast nie dorthin, wo tatsächlich der Unterschied entsteht.
Warum ist die Modell-Schicht Commodity?
Die Modell-Schicht hat zwei Eigenschaften, die man auseinanderhalten muss. Die gute: Sie wechselt ständig und wird von allein besser, ohne dass Sie einen Finger rühren. Das Modell, das Sie heute nutzen, ist in sechs Monaten durch ein besseres ersetzt, und Sie profitieren davon automatisch.
Die schlechte Eigenschaft ist die Kehrseite derselben Medaille: Genau weil die Modelle für alle verfügbar sind, gehören sie auch allen. Auch Ihrem Wettbewerber, zum selben Preis, am selben Tag. Wer sich über die Modellwahl differenzieren will, differenziert sich über etwas, das jeder mieten kann.
Das ist die Definition einer Commodity. Die Modell-Schicht ist kein Wettbewerbsvorteil, sie ist eine Zutat, die auf dem Markt für alle gleich erhältlich ist. Investitionen, die ausschließlich hier landen, kaufen keinen Vorsprung, sondern nur den Anschluss.
Jede Investition in die Modell-Schicht veraltet mit dem nächsten Release, jede Investition in die eigene Datenschicht zahlt auf jedes künftige Modell ein. Deshalb rate ich Geschäftsführungen, ihr KI-Budget bewusst in das zu lenken, was ihnen gehört. Das ist gelebter Investitionsschutz, während der Wettbewerber noch über die Modellwahl diskutiert.
Philipp Foreman
Geschäftsführer, onacy GmbH
Warum wird die Datenschicht nicht von allein besser?
Die Daten-Schicht verhält sich genau umgekehrt zur Modell-Schicht. Sie wechselt nicht, sie bleibt. Sie gehört nicht allen, sondern nur Ihnen. Aber im Gegensatz zu den Modellen wird sie nicht von allein besser. Sie will bewirtschaftet werden, und zwar dauerhaft, als Aufgabe ohne Enddatum.
Aufgabe
Bedeutung
Typischer Fehler
Erweitern
Neue Quellen, Attribute und Wissen kontinuierlich anschließen
Datenbestand einmal aufgebaut und dann sich selbst überlassen
Aggregieren
Verstreutes zusammenführen, eine Wahrheit statt fünf Silos
Jede Abteilung pflegt weiter ihre eigene Version
Pflegen
Aktuell und konsistent halten, mit Eigentümer und Pflege-Regel
Kein Verantwortlicher, keine Regel, wie neue Daten sauber entstehen
Die drei Aufgaben der Daten-Bewirtschaftung. Stand: Juli 2026.
Diese drei Aufgaben sind keine einmaligen Projekte, sondern eine laufende Fähigkeit. Wer sie ernst nimmt, baut mit der Zeit einen Bestand auf, den kein Wettbewerber kopieren kann, weil er aus dem eigenen Geschäft entsteht. Wer sie vernachlässigt, häuft Datenschulden an, die beim nächsten KI-Vorhaben fällig werden. Was diese Schulden sind und was sie kosten, beschreibt der Pillar-Artikel zu Datenschulden.
Was heißt das für Ihre KI-Investition?
Der praktische Kern lässt sich als Formel fassen. Ein KI-Ergebnis entsteht aus drei Zutaten: Dem Modell (für alle gleich), dem Prompt-Handwerk (steht in jedem Ratgeber, der Wettbewerber kopiert es) und dem zugänglichen Wissen (der einzige Faktor, der nur Ihnen gehört und den Sie ausbauen können).
Zwei der drei Zutaten sind Commodity. Nur die dritte ist Ihr Eigentum. Daraus folgt eine klare Priorität für jede KI-Investition: Das Budget gehört überwiegend in die Zutat, die Ihnen gehört.
Architektonisch ist die Datenschicht die einzige Komponente, die vom Modell entkoppelt bleibt. Genau das macht sie so wertvoll: Wenn Sie die Daten sauber vom austauschbaren Modell trennen, wird jeder Modellwechsel zum Konfigurationsschritt statt zum Migrationsprojekt, und jedes neue Modell holt mehr aus demselben Bestand heraus.
Philipp Beyer
CTO, onacy GmbH
Das bedeutet nicht, die Modellwahl zu ignorieren. Es bedeutet, sie als das zu behandeln, was sie ist: Eine austauschbare, günstige Zutat, über die man nicht wochenlang diskutiert. Die eigentliche strategische Arbeit liegt in der Datenschicht.
Wie starten Sie die Bewirtschaftung?
Der häufigste Einwand an dieser Stelle lautet: Die Datenschicht zu bewirtschaften klingt nach einem riesigen Projekt. Das muss es nicht sein, und es sollte es nicht sein. Ein Zwei-Jahres-Aufräumprojekt wird nie fertig.
Der bessere Weg ist use-case-getrieben. Statt alle Daten auf einmal in Ordnung zu bringen, priorisieren Sie die eine Datengrundlage, die den größten Stapel an Anwendungsfällen gleichzeitig freischaltet. Ein Beispiel: Bringen Sie Ihre Produktattribute in Ordnung, und Sie bekommen funktionierende Shop-Filter, KI-Produkttexte, dynamische Vergleiche und einen verlässlichen Assistenten in einem Zug. Eine Grundlage, mehrere Anwendungsfälle.
Wie Sie diese Grundlagen finden und priorisieren, beschreibt der Leitfaden KI-Use-Cases priorisieren, das schrittweise Vorgehen ohne Großprojekt der Artikel zum Lean-Loop für Datenprojekte. Die dauerhafte Bewirtschaftung der Datenschicht ist Kern unseres Bereichs Data Management, die produktive Nutzung durch KI unser Hub zur KI-Automation.
In welches KI-Tool sollte der Mittelstand investieren?
Die Werkzeug- und Modellwahl ist weniger entscheidend, als die meisten denken, weil Modelle für alle gleich verfügbar sind und sich ständig ändern. Die wichtigere Investition gilt der eigenen Datenschicht, denn sie gehört nur Ihrem Unternehmen und entscheidet über die Qualität der KI-Ergebnisse. Ein gutes Modell auf schlechten Daten liefert schlechte Ergebnisse, ein durchschnittliches Modell auf guten Daten liefert brauchbare.
Warum veralten KI-Investitionen so schnell?
Weil das Geld meist in die Modell-Schicht fließt, und die wechselt ständig. Das Modell, für das heute Lizenzen und Anpassungen gekauft werden, ist in einem halben Jahr durch ein besseres ersetzt. Investitionen in die Datenschicht dagegen veralten nicht: Saubere, gepflegte Daten zahlen auf jedes künftige Modell ein, egal welches gerade das beste ist.
Was bedeutet Daten-Bewirtschaftung?
Daten-Bewirtschaftung umfasst drei laufende Aufgaben: Erweitern (neue Quellen und Attribute anschließen), Aggregieren (Verstreutes zu einer Wahrheit zusammenführen) und Pflegen (Daten aktuell und konsistent halten, mit klarem Eigentümer und Pflege-Regel). Anders als ein Modell wird eine Datenschicht nicht von allein besser, sondern nur durch diese dauerhafte Arbeit.
Lohnt sich ein eigenes KI-Modell für den Mittelstand?
In den allermeisten Fällen nein. Ein eigenes Modell zu trainieren ist teuer und veraltet ebenso schnell wie zugekaufte Modelle. Der Hebel für den Mittelstand liegt nicht im Modell, sondern in den eigenen Daten: Wer sein Unternehmenswissen für Standardmodelle zugänglich macht, erzielt bessere Ergebnisse als mit einem teuren Eigenmodell auf unstrukturierten Daten.
Wie macht man Unternehmensdaten KI-fähig?
Indem man sie use-case-getrieben auf vier Dimensionen bringt: Vollständig, konsistent, aktuell und maschinenlesbar. Man beginnt nicht mit allen Daten, sondern mit der Datengrundlage hinter dem wichtigsten Anwendungsfall, versieht sie mit einem Eigentümer und einer Pflege-Regel und arbeitet sich dann in Schleifen weiter. So wächst die KI-Fähigkeit der Datenschicht mit jedem Use Case.
Autor
Philipp Foreman
Geschäftsführer, onacy GmbH
Philipp Foreman ist Geschäftsführer der onacy GmbH in Münster und begleitet seit über 15 Jahren Commerce-, Produkt- und Datenprojekte im Mittelstand. Er rät Geschäftsführungen, KI-Budgets weniger in die austauschbare Modell-Schicht und mehr in die eigene Datenschicht zu lenken, weil nur diese einen dauerhaften Wettbewerbsvorteil schafft.