KI-Kosten im Mittelstand: TCO statt Lizenzwildwuchs

Warum KI-Kosten im Mittelstand aus dem Ruder laufen

Viele mittelständische Unternehmen haben den Einstieg in die KI längst hinter sich. In der Buchhaltung läuft ein Assistent für die Belegprüfung, der Vertrieb nutzt einen Textgenerator, die IT testet einen Chatbot für das interne Wissen. Jede dieser Anwendungen wirkt für sich genommen günstig. Genau hier beginnt das Problem. Die Summe vieler kleiner, unkoordinierter Entscheidungen ergibt eine KI-Landschaft, deren Gesamtkosten niemand mehr vollständig überblickt.

Der Branchenverband Bitkom berichtet, dass eine deutliche Mehrheit der mittelständischen Unternehmen KI für strategisch wichtig hält, während nur ein kleiner Teil sie wirklich produktiv und gesteuert betreibt. In dieser Lücke entstehen die Kosten, die später für Diskussionen im Controlling sorgen. Es sind selten die Anschaffungspreise, die wehtun. Es sind die laufenden, variablen und versteckten Kosten, die sich über Monate aufbauen, bis die Cloud-Rechnung plötzlich eine Position enthält, die im Budget nie vorgesehen war.

Für die Geschäftsführung verschiebt sich damit die eigentliche Frage. Sie lautet nicht mehr, ob KI etwas kostet, sondern ob die KI-Kosten im Unternehmen überhaupt steuerbar sind. Wer diese Kontrolle nicht früh aufbaut, zahlt doppelt: einmal für Tools, die niemand strategisch ausgewählt hat, und ein zweites Mal für die Arbeit, diesen Wildwuchs später wieder einzufangen.

Hinzu kommt eine Besonderheit von KI, die sie von klassischer Software unterscheidet. Während eine herkömmliche Lizenz einen festen Preis hat, rechnen KI-Dienste meist nach Verbrauch ab. Die Kosten sind damit nicht im Voraus bekannt, sondern hängen davon ab, wie intensiv eine Anwendung genutzt wird. Das macht KI grundsätzlich schwerer kalkulierbar und verlangt eine andere Art der Steuerung als die jährliche Lizenzplanung, an die viele Unternehmen gewöhnt sind. Wer KI mit den Werkzeugen der klassischen Softwarebeschaffung steuert, verliert genau dort den Überblick, wo die Kosten tatsächlich entstehen.

KI-Kosten sind ein Steuerungsproblem, kein Einkaufsproblem

Der teuerste Posten einer KI-Landschaft ist selten ein einzelnes Tool. Teuer wird das Fehlen einer verantwortlichen Stelle, die Aufbau, Betrieb und Abschaltung von KI-Anwendungen über alle Abteilungen hinweg bewertet und entscheidet.

Dieser Leitartikel ordnet die KI-Kosten im Mittelstand entlang ihrer realen Treiber, erklärt das Modell der Total Cost of Ownership für KI und zeigt, wie Sie mit einer geführten KI-Leitung die Budgetkontrolle zurückgewinnen, bevor aus einzelnen Experimenten ein unkontrollierter Kostenblock wird.

Die versteckten Kostentreiber einer KI-Landschaft

Wer KI-Kosten ehrlich bewerten will, muss über den Lizenzpreis hinausschauen. Die meisten mittelständischen KI-Landschaften haben fünf Kostentreiber, die in keinem Angebot stehen und sich erst im Betrieb zeigen. Sie wirken einzeln harmlos und summieren sich gemeinsam zu dem Posten, der Budgets sprengt.

Der erste Treiber sind die variablen Nutzungskosten. Moderne KI-Dienste rechnen pro Anfrage oder pro verarbeiteter Texteinheit ab. Solange ein Assistent von wenigen Mitarbeitenden getestet wird, bleibt das günstig. Sobald eine Anwendung produktiv geht und Hunderte Menschen sie täglich nutzen, vervielfacht sich der Verbrauch. Eine erfolgreiche KI-Anwendung wird so ausgerechnet im Erfolgsfall teuer, und zwar ohne dass jemand eine neue Bestellung ausgelöst hätte.

Der zweite Treiber ist die Integration in bestehende Systeme. Eine KI entfaltet ihren Wert erst, wenn sie auf das ERP, das Dokumentenmanagement oder die Fachsysteme zugreift. Genau diese Schnittstellen, die Datenaufbereitung und die Rechteverwaltung verursachen den Großteil des Aufwands. Die reine Modellnutzung ist oft der kleinste Teil der Rechnung.

Der dritte Treiber ist der laufende Betrieb. Eine produktive KI braucht Überwachung, Aktualisierung, Qualitätssicherung und einen Ansprechpartner, wenn sie falsche Ergebnisse liefert. Dieser Betriebsaufwand fällt dauerhaft an und wird in der ersten Begeisterung über einen funktionierenden Prototyp regelmäßig vergessen.

Der vierte Treiber ist der Lizenzwildwuchs. Wenn jede Abteilung ihr eigenes Werkzeug einkauft, zahlt das Unternehmen mehrfach für ähnliche Funktionen, verliert Mengenvorteile und verteilt sensible Daten über viele Anbieter. Der fünfte Treiber ist die sogenannte Schatten-KI, also die Nutzung von Diensten, von denen die Geschäftsführung nichts weiß. Sie verursacht nicht nur unkontrollierte Kosten, sondern auch Compliance-Risiken, deren Beseitigung später teuer wird.

Ein typisches Muster verdeutlicht das Zusammenspiel. Ein Fachbereich startet einen Assistenten für die Angebotserstellung. Der Test überzeugt, die Anwendung geht in den Alltag, und plötzlich nutzen sie alle Vertriebsmitarbeitenden täglich. Die variablen Kosten steigen, weil jede Anfrage abgerechnet wird. Parallel verlangt der Betrieb, dass die Antworten mit dem aktuellen Produktkatalog abgeglichen werden, was eine Schnittstelle und deren Pflege erfordert. Wenig später kauft ein anderer Bereich ein ähnliches Werkzeug ein, weil er von der ersten Lösung nichts weiß. Aus einem günstigen Test sind so binnen Monaten drei Kostenpositionen geworden, die in keinem gemeinsamen Budget auftauchen.

Die Schwierigkeit liegt nicht darin, einen einzelnen Treiber zu erkennen. Sie liegt darin, dass diese Kosten an unterschiedlichen Stellen entstehen und in unterschiedlichen Budgets verbucht werden. Ohne eine Stelle, die alle fünf zusammenführt, entsteht kein verzerrtes Bild, sondern gar keines.

Was Total Cost of Ownership bei KI wirklich umfasst

Total Cost of Ownership, kurz TCO, bedeutet, dass Sie nicht den Kaufpreis betrachten, sondern alle Kosten über die gesamte Lebensdauer einer Lösung. Bei klassischer Software ist dieses Denken etabliert. Bei KI fehlt es häufig noch, obwohl es hier besonders wichtig ist, weil ein großer Teil der Kosten variabel und nutzungsabhängig ist.

Ein belastbares TCO-Modell für KI umfasst drei Phasen. Die erste Phase ist der Aufbau. Dazu gehören die Auswahl der passenden Architektur, die Anbindung an Ihre Daten, die ersten Anwendungsfälle und die nötige Befähigung der Mitarbeitenden. Diese Kosten sind sichtbar und planbar, weil sie als Projekt anfallen. Genau deshalb stehen sie meist im Vordergrund der Diskussion, obwohl sie über die Jahre den kleineren Teil ausmachen.

Die zweite Phase ist der Betrieb. Hier liegen die variablen Nutzungskosten, die Pflege der Schnittstellen, die Überwachung der Qualität und die Reaktion auf Fehler. Diese Kosten fallen dauerhaft an und wachsen mit der Nutzung. Wer sie nicht von Anfang an modelliert, erlebt nach dem ersten erfolgreichen Jahr eine unangenehme Überraschung, weil die laufende Rechnung den ursprünglichen Projektpreis übersteigt.

Die dritte Phase ist der Wechsel oder die Ablösung. Eine ehrliche TCO-Betrachtung fragt auch, was es kostet, einen Anbieter zu verlassen oder eine Anwendung abzuschalten. Wenn Daten, Abläufe und Wissen untrennbar im System eines einzelnen Anbieters hängen, entstehen Wechselkosten, die jede kurzfristige Ersparnis auffressen. Diese Frage gehört in die Bewertung, lange bevor sie akut wird. Eine vertiefte Betrachtung der Wirtschaftlichkeit finden Sie im Beitrag ROI von KI im Mittelstand.

Der Projektpreis ist die Spitze des Eisbergs

Die sichtbaren Aufbaukosten einer KI-Anwendung sind selten der entscheidende Posten. Über die Lebensdauer dominieren Betrieb, variable Nutzung und Wechselkosten. Wer nur den Projektpreis verhandelt, verhandelt am eigentlichen Kostenblock vorbei.

Ein gutes TCO-Modell macht diese drei Phasen explizit und ordnet jeder Anwendung einen erwarteten Verbrauch und einen verantwortlichen Kostenträger zu. Erst dann lässt sich seriös beurteilen, ob ein Anwendungsfall sich rechnet, oder ob er nur im Pilotbetrieb günstig wirkte.

Wie sich KI-Kosten über drei Jahre verschieben

Der typische Verlauf der Kosten über die ersten drei Jahre erklärt, warum so viele KI-Budgets aus dem Ruder laufen. Im ersten Jahr dominieren die Aufbaukosten. Eine Anwendung wird konzipiert, angebunden und eingeführt. Diese Kosten sind hoch, aber sichtbar und einmalig. Die laufenden Kosten sind in dieser Phase niedrig, weil die Nutzung gering ist. Das vermittelt ein trügerisches Gefühl von Kontrolle.

Im zweiten Jahr kippt das Verhältnis. Die Anwendung läuft produktiv, die Nutzung steigt, und damit wachsen die variablen Kosten. Gleichzeitig kommen weitere Anwendungen hinzu, oft aus anderen Abteilungen, oft ohne zentrale Abstimmung. Die Summe der laufenden Kosten beginnt, die ursprünglichen Aufbaukosten zu übersteigen. Wer nur das erste Jahr kalkuliert hat, gerät jetzt unter Erklärungsdruck.

Im dritten Jahr entscheidet sich, ob die KI-Landschaft beherrschbar bleibt. Entweder gibt es eine Stelle, die Verbrauch, Verträge und Architektur steuert, dann stabilisieren sich die Kosten auf einem nachvollziehbaren Niveau. Oder es gibt sie nicht, dann wachsen Lizenzwildwuchs, Schatten-KI und variable Verbräuche weiter, und das Unternehmen steht vor der teuren Aufgabe, die Landschaft nachträglich zu ordnen. Die gute Nachricht ist, dass dieser dritte Pfad vermeidbar ist, wenn die Steuerung früh genug aufgesetzt wird.

Wichtig ist dabei die Erkenntnis, dass nicht die Höhe der Kosten das eigentliche Problem ist. KI darf Geld kosten, wenn sie messbaren Nutzen bringt. Das Problem ist die fehlende Vorhersagbarkeit. Eine Kostenkurve, die niemand erwartet hat und die niemand erklären kann, untergräbt das Vertrauen der Geschäftsführung in das gesamte Thema KI und gefährdet damit auch die Anwendungen, die sich wirklich rechnen.

Cloud-Abhängigkeit als Kostenrisiko

Ein großer Teil der heutigen KI läuft auf der Infrastruktur weniger großer Anbieter. Das ist bequem und schnell, schafft aber ein Kostenrisiko, das viele Mittelständler unterschätzen. Wenn Ihre Anwendungen ausschließlich auf einem einzelnen Dienst aufsetzen, geben Sie die Kontrolle über einen wesentlichen Kostenfaktor aus der Hand.

Anbieter ändern ihre Preismodelle, schalten ältere Modelle ab oder verlangen für neue Funktionen höhere Tarife. Jede dieser Entscheidungen trifft Sie unmittelbar, weil Ihre Prozesse daran hängen. Sie haben dann die Wahl, höhere Kosten zu akzeptieren oder mit großem Aufwand auf eine Alternative zu wechseln. Beides ist teuer, und beides war zum Zeitpunkt der ursprünglichen Entscheidung nicht eingepreist.

Hinzu kommt, dass variable Cloud-Kosten schwer zu deckeln sind. Eine einzelne fehlerhaft konfigurierte Anwendung oder ein unerwarteter Nutzungsanstieg kann die Monatsrechnung stark erhöhen, ohne dass eine Warnung erfolgt. Wer hier keine Obergrenzen, kein Monitoring und keine klare Zuordnung zu Kostenstellen hat, erfährt von der Kostenexplosion erst, wenn die Rechnung kommt. Wie sich diese Abhängigkeit grundsätzlich vermeiden lässt, beschreibt der Beitrag Vendor-Lock-in bei KI vermeiden.

Die Konsequenz ist nicht, KI grundsätzlich im eigenen Haus zu betreiben. Die Konsequenz ist, die Architektur so zu gestalten, dass Sie wechseln können und die Kosten jederzeit sichtbar bleiben. Datenhaltung, Anwendungslogik und Modellzugriff gehören getrennt, damit ein Anbieterwechsel kein Neuaufbau wird. Kostenkontrolle und Unabhängigkeit sind hier zwei Seiten derselben Architekturentscheidung.

Lizenzwildwuchs und Schatten-KI: wenn jede Abteilung selbst einkauft

Der vielleicht unterschätzteste Kostentreiber ist organisatorisch, nicht technisch. Wenn KI als Werkzeug gilt, das jede Abteilung nach eigenem Ermessen einführt, entsteht in kurzer Zeit ein Flickenteppich aus Verträgen, Abonnements und Zugängen. Marketing nutzt einen Textdienst, der Vertrieb einen zweiten, die Produktentwicklung einen dritten. Funktional überschneiden sich diese Werkzeuge oft erheblich.

Für das Unternehmen bedeutet das mehrfache Kosten für ähnliche Leistung, verschenkte Mengenvorteile und einen erheblichen Verwaltungsaufwand. Niemand kann sagen, wie viele KI-Verträge insgesamt laufen, wer sie verantwortet und ob sie noch genutzt werden. Vergessene Abonnements, die monatlich abgebucht werden, ohne dass jemand sie kündigt, sind in solchen Landschaften die Regel, nicht die Ausnahme.

Noch heikler ist die Schatten-KI. Damit ist die Nutzung von Diensten gemeint, die ohne Freigabe und ohne Wissen der Geschäftsführung im Arbeitsalltag eingesetzt werden. Mitarbeitende, die einen frei verfügbaren Dienst nutzen, um schneller zu arbeiten, handeln meist in bester Absicht. Sie schaffen damit aber unkontrollierte Kosten, vor allem aber ein Risiko, weil sensible Daten in Systeme gelangen, die das Unternehmen nicht überblickt. Die Beseitigung dieses Risikos ist später deutlich teurer als eine frühe, klare Richtlinie. Den Umgang mit diesem Thema vertieft der Beitrag Schatten-KI im Unternehmen.

Die Lösung ist nicht, jede Eigeninitiative zu verbieten. Innovation aus den Fachbereichen ist wertvoll. Die Lösung ist ein leichter, aber verbindlicher Rahmen, der festlegt, welche Dienste genutzt werden dürfen, wer den Überblick über die Verträge hält und wie neue Werkzeuge bewertet werden, bevor sie in den Alltag wandern.

Wie Sie KI-Kosten unter Kontrolle bringen

Kostenkontrolle bei KI entsteht nicht durch ein Sparprogramm, sondern durch eine klare Steuerung. Vier Schritte haben sich im Mittelstand bewährt, und sie lassen sich auch mit begrenzten Ressourcen umsetzen.

Der erste Schritt ist Transparenz. Sie brauchen ein vollständiges Verzeichnis aller KI-Anwendungen und Verträge im Unternehmen, inklusive der inoffiziellen. Erst wenn auf einer Seite steht, welche Anwendung wo läuft, wer sie verantwortet und was sie monatlich kostet, lässt sich überhaupt etwas steuern. Diese Bestandsaufnahme deckt regelmäßig Doppelungen und vergessene Abonnements auf, deren Abschaltung sofort Geld spart.

Der zweite Schritt ist die Zuordnung zu Kostenstellen. Jede produktive KI-Anwendung braucht einen verantwortlichen Kostenträger und ein erwartetes Verbrauchsbudget. So wird aus einer diffusen Cloud-Rechnung eine Reihe nachvollziehbarer Posten, die sich einzelnen Anwendungsfällen und deren Nutzen gegenüberstellen lassen. Sinnvoll ist es, für jede Anwendung Obergrenzen und automatische Warnungen einzurichten. Steigt der Verbrauch über einen festgelegten Schwellenwert, erhält die verantwortliche Stelle eine Meldung, bevor die Monatsrechnung kommt. Dieses einfache Prinzip aus der IT-Kostensteuerung verhindert die meisten bösen Überraschungen, kostet aber kaum Aufwand in der Einrichtung.

Der dritte Schritt ist eine bewusste Entscheidung zwischen Eigenbetrieb und externem Dienst für jeden relevanten Anwendungsfall. Diese Make-or-Buy-Frage hat direkte Kostenfolgen und hängt vom Schutzbedarf der Daten, vom erwarteten Volumen und von der vorhandenen Kompetenz ab. Eine fundierte Grundlage dafür bietet der Beitrag On-Premises-LLM im Mittelstand.

Der vierte Schritt ist eine verantwortliche Stelle, die diese Steuerung dauerhaft trägt. Ohne einen Kopf, der KI-Architektur, Betrieb und Kosten über die Abteilungen hinweg verantwortet, zerfällt jede Maßnahme wieder in Einzelentscheidungen. Genau diese Lücke beschreibt der Beitrag zur externen KI-Leitung im Mittelstand.

Ein verantwortlicher Kopf ersetzt zehn unkoordinierte Entscheidungen

Kostenkontrolle bei KI ist kein Werkzeug, sondern eine Verantwortung. Wer Architektur, Betrieb und Budget in einer Hand bündelt, verhindert Lizenzwildwuchs, deckelt variable Kosten und stellt jeden Anwendungsfall auf eine nachvollziehbare wirtschaftliche Grundlage.

KI-Kosten und Compliance: der EU AI Act als Kostenfaktor

Ein Kostenblock, der in vielen Planungen fehlt, ist die Compliance. Mit dem EU AI Act entstehen Pflichten, die direkt auf die laufenden Kosten wirken. Ab dem 2. August 2026 gelten unter anderem Transparenzpflichten: Wenn ein Mensch mit einer KI interagiert, muss er das wissen, und KI-erzeugte Inhalte müssen gekennzeichnet werden. Für ein Unternehmen, das mehrere KI-Anwendungen betreibt, bedeutet das Aufwand für Kennzeichnung, Dokumentation und Nachweis.

Diese Pflichten sind kein einmaliger Posten. Sie verlangen ein dauerhaftes Verzeichnis der eingesetzten Systeme, eine Risikobewertung je Anwendung und einen Nachweis der nötigen Kompetenz der beteiligten Mitarbeitenden. Wer diese Strukturen nicht hat, muss sie unter Zeitdruck aufbauen, und Zeitdruck ist erfahrungsgemäß der teuerste Modus. Eine gewachsene, unkoordinierte KI-Landschaft macht diese Nachweise besonders aufwendig, weil niemand vollständig weiß, was wo läuft.

Damit schließt sich der Kreis zur Kostenkontrolle. Dasselbe Verzeichnis, das Ihnen hilft, Lizenzwildwuchs und variable Verbräuche zu steuern, ist auch die Grundlage für den Compliance-Nachweis. Wer KI-Kosten von Anfang an sauber führt, erfüllt die regulatorischen Pflichten fast nebenbei. Die konkreten Fristen und Pflichten ordnet der Beitrag EU AI Act für den Mittelstand ein.

Typische Denkfehler bei der KI-Kostenplanung

In der Praxis wiederholen sich einige Denkfehler, die KI-Kosten unnötig in die Höhe treiben. Sie zu kennen, ist der halbe Weg zur Kontrolle.

Der erste Denkfehler ist, den Pilotpreis als Maßstab zu nehmen. Ein Prototyp, den eine Handvoll Menschen testet, ist kein verlässlicher Indikator für die Kosten im Produktivbetrieb mit Hunderten Nutzern. Wer auf Basis der Testkosten kalkuliert, plant systematisch zu niedrig.

Der zweite Denkfehler ist, nur die Modellkosten zu betrachten. Die eigentlichen Aufwände liegen bei der Integration, der Datenaufbereitung und dem Betrieb. Ein günstiges Modell rettet keine Kalkulation, wenn die Anbindung an die Fachsysteme das Vielfache kostet.

Der dritte Denkfehler ist, Kosten als reine IT-Frage zu behandeln. KI-Kosten entstehen in den Fachbereichen, im Einkauf, in der Compliance und im Betrieb. Eine Steuerung, die nur in der IT verankert ist, sieht den Lizenzwildwuchs der Fachabteilungen nicht. Der vierte Denkfehler ist, einmal eingeführte Anwendungen nie wieder zu hinterfragen. Auch eine KI-Anwendung kann ihren Nutzen verlieren oder durch eine bessere Lösung ersetzt werden. Wer nicht regelmäßig prüft, zahlt für Werkzeuge, die längst überholt sind.

Der fünfte Denkfehler ist, Kostenkontrolle und Innovation als Gegensätze zu sehen. Manche Unternehmen reagieren auf unklare KI-Kosten mit einem pauschalen Stopp und ersticken damit auch die Anwendungen, die sich rechnen. Andere lassen aus Sorge vor Bürokratie alles laufen. Beide Wege sind teuer. Der richtige Weg liegt dazwischen: ein leichter Rahmen, der Transparenz schafft und Verantwortung klärt, ohne die Geschwindigkeit der Fachbereiche zu bremsen. Kostenkontrolle ist dann kein Bremsklotz, sondern die Voraussetzung dafür, dass die Geschäftsführung weiteren KI-Vorhaben überhaupt zustimmt.

Wie sensified KI-Kosten steuerbar macht

sensified übernimmt für mittelständische Unternehmen die strategische KI-Leitung. Das bedeutet im Kern, dass die Verantwortung für Architektur, Betrieb und Kosten nicht auf viele Schultern verteilt bleibt, sondern in einer geführten Hand liegt, bis Ihr eigenes Team sie übernehmen kann. Kostenkontrolle ist dabei kein nachträglicher Bericht, sondern Bestandteil jeder Entscheidung.

Der Einstieg ist ein Discovery-Workshop. Darin werden die vorhandenen KI-Anwendungen erfasst, die realen Kosten sichtbar gemacht und die Anwendungsfälle nach Nutzen und Aufwand bewertet. Schon dieser Schritt deckt regelmäßig Doppelungen, ungenutzte Verträge und unkontrollierte Verbräuche auf. Aus der Bestandsaufnahme entsteht ein klares Zielbild, das festlegt, welche Anwendungen bleiben, welche zusammengeführt werden und welche neue Architektur die Kosten dauerhaft steuerbar hält.

Auf dieser Grundlage arbeitet ein festes Duo aus einem KI-Architekten und einem Domänenexperten, das die Lösung nicht nur plant, sondern gemeinsam mit Ihrem Haus aufbaut und in den Betrieb führt. Die Architektur wird so gestaltet, dass Daten, Anwendungslogik und Modellzugriff getrennt bleiben. Damit vermeiden Sie Anbieterabhängigkeit und halten die Wechselkosten niedrig, die in einer ehrlichen TCO-Betrachtung den Unterschied machen.

Für größere Vorhaben folgt ein Mandat nach dem Prinzip Build, Operate, Transfer. sensified baut die Lösung in produktiver Qualität, übernimmt zunächst den Betrieb samt Monitoring der Kosten und übergibt System und Wissen dann schrittweise an Ihr internes Team. Am Ende steht nicht eine dauerhafte Abhängigkeit, sondern eine KI-Landschaft, die Ihr Haus selbst steuern und deren Kosten Ihr Controlling jederzeit nachvollziehen kann.

Nächste Schritte

KI-Kosten geraten im Mittelstand selten durch eine große Fehlentscheidung außer Kontrolle, sondern durch viele kleine, unkoordinierte. Der wirksamste erste Schritt ist deshalb keine Sparvorgabe, sondern Transparenz: ein vollständiges Bild aller KI-Anwendungen, ihrer Verträge und ihrer realen Kosten, zusammengeführt an einer verantwortlichen Stelle.

Wenn Sie wissen möchten, wo in Ihrer KI-Landschaft heute Geld verloren geht und wie sich die Kosten dauerhaft steuerbar halten lassen, sprechen Sie mit uns. In einem ersten Gespräch ordnen wir Ihre Situation ein und zeigen, wie ein geführter Weg von der Bestandsaufnahme über die Architektur bis zum Wissenstransfer in Ihrem Haus aussehen kann.