Modelle wechseln, Daten bleiben: Wohin die KI-Investition im Mittelstand gehört

KI besteht aus zwei Schichten: austauschbare Modelle und Ihre eigene Datenschicht. Warum Ihre KI-Investition in die Daten gehört, nicht ins nächste Modell.
Daten schlagen Modelle

Zuletzt aktualisiert: 09. September 2026

KI besteht aus zwei Schichten: Der Modell-Schicht, die wechselt und allen gehört, und der Daten-Schicht, die bleibt und nur Ihnen gehört. Investitionen in Modelle veralten mit dem nächsten Release, Investitionen in die Daten-Schicht zahlen auf jedes künftige Modell ein. Laut KfW hat sich der KI-Einsatz im Mittelstand von 4 auf 20 Prozent verfünffacht. Dieser Artikel zeigt, wohin Ihre KI-Investition gehört.

Das Wichtigste in Kürze

KI im Unternehmen besteht aus zwei Schichten. Die Modell-Schicht (GPT, Claude, Gemini und ihre Nachfolger) wechselt ständig, wird von allein besser und ist für alle gleich verfügbar, auch für den Wettbewerber. Die Daten-Schicht bleibt, gehört nur Ihnen und wird nicht von allein besser: Sie will bewirtschaftet werden durch Erweitern, Aggregieren und Pflegen. Jede Investition in die Modell-Schicht veraltet mit dem nächsten Release, jede Investition in die Daten-Schicht zahlt auf jedes künftige Modell ein. Ein KI-Ergebnis entsteht aus Modell mal Prompt-Handwerk mal zugänglichem Wissen, und nur die letzte Zutat gehört Ihnen allein. Laut Gartner werden 60 Prozent aller KI-Projekte ohne KI-fähige Datenbasis bis Ende 2026 abgebrochen.

Stand: Juli 2026

Inhaltsverzeichnis

Aus welchen zwei Schichten besteht KI im Unternehmen?

Wenn Sie über KI-Investitionen entscheiden, hilft ein einfaches Bild, mit dem sich jede Anbieter-Präsentation einordnen lässt: KI im Unternehmen besteht aus zwei Schichten.

Oben liegt die Modell-Schicht. Das sind die großen Sprachmodelle, GPT, Claude, Gemini und in einem halben Jahr das nächste. Unten liegt die Daten-Schicht Ihres Unternehmens, Ihre Produkte, Preise, Kunden, Dokumente und Prozesse. Beide Schichten zusammen ergeben ein KI-Ergebnis, und jedes Modell ist dabei immer nur so gut wie die Schicht darunter.

Diese Unterscheidung klingt simpel, wird aber in den meisten Investitionsentscheidungen ignoriert: Geld und Aufmerksamkeit fließen fast immer nach oben, in Modellwahl, Lizenzen und Tools, und fast nie nach unten, wo der Unterschied entsteht.

Warum ist die Modell-Schicht Commodity?

Die Modell-Schicht hat zwei Eigenschaften, die man auseinanderhalten muss. Zum einen wechselt sie ständig und wird von allein besser, ohne dass Sie einen Finger rühren. Das Modell, das Sie heute nutzen, ist in sechs Monaten durch ein besseres ersetzt, und Sie profitieren davon automatisch.

Die Kehrseite: Weil die Modelle für alle verfügbar sind, gehören sie auch allen, Ihrem Wettbewerber eingeschlossen, zum selben Preis und am selben Tag. Wer sich über die Modellwahl differenzieren will, differenziert sich über etwas, das jeder mieten kann.

Genau das macht eine Commodity aus: Sie ist eine Zutat, die auf dem Markt für alle gleich erhältlich ist, und bringt deshalb keinen Wettbewerbsvorteil. Investitionen, die ausschließlich hier landen, sichern den Anschluss, einen Vorsprung kaufen sie nicht.

Jede Investition in die Modell-Schicht veraltet mit dem nächsten Release, jede Investition in die eigene Datenschicht zahlt auf jedes künftige Modell ein. Deshalb rate ich Geschäftsführungen, ihr KI-Budget bewusst in das zu lenken, was ihnen gehört. So schützen sie ihre Investition, während der Wettbewerber noch über die Modellwahl diskutiert.

Philipp Foreman

Philipp Foreman

Geschäftsführer, onacy GmbH

Warum wird die Datenschicht nicht von allein besser?

Die Daten-Schicht verhält sich umgekehrt zur Modell-Schicht: Sie bleibt, und sie gehört nur Ihnen. Anders als die Modelle wird sie aber nicht von allein besser. Sie muss dauerhaft bewirtschaftet werden, als Aufgabe ohne Enddatum.

Aufgabe Bedeutung Typischer Fehler
Erweitern Neue Quellen, Attribute und Wissen kontinuierlich anschließen Datenbestand einmal aufgebaut und dann sich selbst überlassen
Aggregieren Verstreutes zusammenführen, eine Wahrheit statt fünf Silos Jede Abteilung pflegt weiter ihre eigene Version
Pflegen Aktuell und konsistent halten, mit Eigentümer und Pflege-Regel Kein Verantwortlicher, keine Regel, wie neue Daten sauber entstehen
Die drei Aufgaben der Daten-Bewirtschaftung. Stand: Juli 2026.

Diese drei Aufgaben sind eine laufende Fähigkeit, die sich nicht als einmaliges Projekt erledigen lässt. Wer sie ernst nimmt, baut mit der Zeit einen Bestand auf, den kein Wettbewerber kopieren kann, weil er aus dem eigenen Geschäft entsteht. Wer sie vernachlässigt, häuft Datenschulden an, die beim nächsten KI-Vorhaben fällig werden. Was diese Schulden sind und was sie kosten, beschreibt der Pillar-Artikel zu Datenschulden.

Was heißt das für Ihre KI-Investition?

Praktisch lässt sich das als Formel fassen. Ein KI-Ergebnis entsteht aus drei Zutaten: Dem Modell (für alle gleich), dem Prompt-Handwerk (steht in jedem Ratgeber, der Wettbewerber kopiert es) und dem zugänglichen Wissen (der einzige Faktor, der nur Ihnen gehört und den Sie ausbauen können).

Zwei der drei Zutaten sind Commodity, nur die dritte ist Ihr Eigentum. Bei jeder KI-Investition gehört das Budget deshalb überwiegend in diese dritte Zutat.

Architektonisch ist die Datenschicht die einzige Komponente, die vom Modell entkoppelt bleibt. Deshalb ist sie so wertvoll: Wenn Sie die Daten sauber vom austauschbaren Modell trennen, wird jeder Modellwechsel zum Konfigurationsschritt statt zum Migrationsprojekt, und jedes neue Modell holt mehr aus demselben Bestand heraus.

Philipp Beyer

Philipp Beyer

CTO, onacy GmbH

Egal ist die Modellwahl damit nicht. Man sollte sie aber als das behandeln, was sie ist: Eine austauschbare, günstige Zutat, über die man nicht wochenlang diskutiert. Die strategische Arbeit liegt in der Datenschicht.

Wie starten Sie die Bewirtschaftung?

Der häufigste Einwand an dieser Stelle lautet: Die Datenschicht zu bewirtschaften klingt nach einem riesigen Projekt. Das muss und sollte es nicht sein, denn ein Zwei-Jahres-Aufräumprojekt wird nie fertig.

Der bessere Weg ist use-case-getrieben. Statt alle Daten auf einmal in Ordnung zu bringen, priorisieren Sie die eine Datengrundlage, die den größten Stapel an Anwendungsfällen gleichzeitig freischaltet. Ein Beispiel: Bringen Sie Ihre Produktattribute in Ordnung, und Sie bekommen funktionierende Shop-Filter, KI-Produkttexte, dynamische Vergleiche und einen verlässlichen Assistenten in einem Zug.

Wie Sie diese Grundlagen finden und priorisieren, beschreibt der Leitfaden KI-Use-Cases priorisieren, das schrittweise Vorgehen ohne Großprojekt der Artikel zum Lean-Loop für Datenprojekte. Die dauerhafte Bewirtschaftung der Datenschicht ist Kern unseres Bereichs Data Management, die produktive Nutzung durch KI unser Hub zur KI-Automation.

Wenn Sie vor einer KI-Investitionsentscheidung stehen und wissen wollen, wie viel davon in die Datenschicht gehört, buchen Sie ein unverbindliches Erstgespräch.

Wohin gehört Ihre KI-Investition?

Wir schauen uns Ihre Datenschicht an und zeigen konkret, welche Datengrundlage bei Ihnen die meisten KI-Anwendungsfälle gleichzeitig freischaltet.

Beratungsgespräch vereinbaren

FAQ: Häufige Fragen zur KI-Investition

In welches KI-Tool sollte der Mittelstand investieren?

Die Werkzeug- und Modellwahl ist weniger entscheidend, als die meisten denken, weil Modelle für alle gleich verfügbar sind und sich ständig ändern. Die wichtigere Investition gilt der eigenen Datenschicht, denn sie gehört nur Ihrem Unternehmen und entscheidet über die Qualität der KI-Ergebnisse. Ein gutes Modell auf schlechten Daten liefert schlechte Ergebnisse, ein durchschnittliches Modell auf guten Daten liefert brauchbare.

Warum veralten KI-Investitionen so schnell?

Weil das Geld meist in die Modell-Schicht fließt, und die wechselt ständig. Das Modell, für das heute Lizenzen und Anpassungen gekauft werden, ist in einem halben Jahr durch ein besseres ersetzt. Investitionen in die Datenschicht dagegen veralten nicht: Saubere, gepflegte Daten zahlen auf jedes künftige Modell ein, egal welches gerade das beste ist.

Was bedeutet Daten-Bewirtschaftung?

Daten-Bewirtschaftung umfasst drei laufende Aufgaben: Erweitern (neue Quellen und Attribute anschließen), Aggregieren (Verstreutes zu einer Wahrheit zusammenführen) und Pflegen (Daten aktuell und konsistent halten, mit klarem Eigentümer und Pflege-Regel). Anders als ein Modell wird eine Datenschicht nicht von allein besser, sondern nur durch diese dauerhafte Arbeit.

Lohnt sich ein eigenes KI-Modell für den Mittelstand?

In den allermeisten Fällen nein. Ein eigenes Modell zu trainieren ist teuer und veraltet ebenso schnell wie zugekaufte Modelle. Der Hebel für den Mittelstand liegt nicht im Modell, sondern in den eigenen Daten: Wer sein Unternehmenswissen für Standardmodelle zugänglich macht, erzielt bessere Ergebnisse als mit einem teuren Eigenmodell auf unstrukturierten Daten.

Wie macht man Unternehmensdaten KI-fähig?

Indem man sie use-case-getrieben auf vier Dimensionen bringt: Vollständig, konsistent, aktuell und maschinenlesbar. Man beginnt nicht mit allen Daten, sondern mit der Datengrundlage hinter dem wichtigsten Anwendungsfall, versieht sie mit einem Eigentümer und einer Pflege-Regel und arbeitet sich dann in Schleifen weiter. So wächst die KI-Fähigkeit der Datenschicht mit jedem Use Case.

Philipp Foreman

Autor

Philipp Foreman

Geschäftsführer, onacy GmbH

Philipp Foreman ist Geschäftsführer der onacy GmbH in Münster und begleitet seit über 15 Jahren Commerce-, Produkt- und Datenprojekte im Mittelstand. Er rät Geschäftsführungen, KI-Budgets weniger in die austauschbare Modell-Schicht und mehr in die eigene Datenschicht zu lenken, weil nur diese einen dauerhaften Wettbewerbsvorteil schafft.

onacy.de  ·  LinkedIn