Was ein Invest in KI-Infrastruktur wirklich kostet

Essay #004 · 2026 · Lesezeit 5 min · Feld: Investition · Markt: Mittelstand

Ein Angebot liegt auf dem Tisch: 340.000 Euro im ersten Jahr, danach 180.000 Euro pro Jahr. KI-Infrastruktur für ein mittelständisches Unternehmen: Vektor-Datenbank, Modell-Hosting, Orchestrierung, Monitoring, zwei Entwickler für die Integration. Die Zahlen sind sauber gerechnet. Der Business-Case ist nachvollziehbar. Die Investition soll sich nach 14 Monaten zurückzahlen.

Der Geschäftsführer liest das Papier — und unterschreibt nicht. Sein Gefühl sagt ihm: Diese Rechnung ist nicht vollständig. Die sichtbaren Kosten stehen drin. Aber die Kosten, die erst nach dem ersten Jahr kommen, fehlen.

Er liegt richtig. Dieser Essay beschreibt, welche Kosten das sind und wie Sie sie vor der Unterschrift sichtbar machen.

Vier Kostenkategorien: eine sichtbar, drei verdeckt

Jede Investition in KI-Infrastruktur hat vier Kostenkategorien. Die erste steht im Business-Case. Die anderen drei fehlen dort meist, nicht aus Absicht, sondern weil sie schwer zu beziffern sind.

Kategorie eins: sichtbare Kosten. Lizenzgebühren, Cloud-Hosting, Modellkosten, Entwicklung, Integration, externe Beratung. Pro Jahr ein bezifferter Betrag, gut zu rechnen. Diesen Teil haben die Unternehmen, die ich kenne, ordentlich im Griff.

Kategorie zwei: Umbau-Kosten in der Organisation. Die neue Infrastruktur verändert bestehende Prozesse. Das kostet, und zwar nicht einmalig, sondern über Jahre. Teams müssen geschult werden. Arbeitsabläufe müssen angepasst werden. Und jemand muss intern dafür sorgen, dass die neuen Arbeitsweisen wirklich angenommen werden.

Aus meinen Projekten: Auf 100.000 Euro sichtbare Infrastruktur-Kosten kommen im ersten Jahr etwa 40.000 bis 80.000 Euro Umbau-Kosten. Das ist ein Erfahrungswert, keine Studie. Im Business-Case taucht er nicht auf, weil er sich auf viele Abteilungen verteilt und dort als normale Betriebskosten verbucht wird.

Kategorie drei: Wechselkosten (Lock-in). Was kostet es, das System in drei oder fünf Jahren wieder zu verlassen? Je tiefer die Integration, desto teurer der Wechsel. Das war schon bei klassischer Unternehmenssoftware so. Bei agentischer Infrastruktur ist es drängender, weil sich die Architekturen schneller weiterentwickeln und Wechsel öfter anstehen.

Auch hier ein Erfahrungswert: Wer sich heute tief an einen Anbieter bindet, sollte für einen Wechsel in drei Jahren 30 bis 70 Prozent der ursprünglichen Investition einplanen. Diese Summe steht in keinem Business-Case, den ich bisher gesehen habe. Sie wird erst sichtbar, wenn der Wechsel ansteht, und ist dann oft so hoch, dass man ihn verschiebt.

Kategorie vier: die Kosten des Wartens. Auch nicht zu investieren kostet Geld. Wettbewerber bauen Vorsprung auf. Mitarbeitende nutzen öffentliche KI-Tools mit Firmendaten, weil eine offizielle Lösung fehlt (sogenannte Schatten-KI). Daraus entstehen Datenschutz- und Sicherheitsrisiken, die später teurer werden können als die Investition selbst.

Diese Kosten sind am schwersten zu beziffern. In die Rechnung gehören sie trotzdem.

Das Eingangsbeispiel, vollständig gerechnet

Zurück zum Angebot: 340.000 Euro im ersten Jahr, danach 180.000.

Dazu kommen:

• Umbau-Kosten Jahr 1: rund 150.000 Euro (Faktor 0,45 auf die sichtbaren Kosten)
• Umbau-Kosten Jahr 2 und 3: rund 60.000 Euro pro Jahr, abnehmend
• Wechselkosten-Risiko in Jahr 4: 150.000 bis 250.000 Euro, als Eventualkosten zu reservieren
• Kosten des Wartens bei Nichthandeln: grob 50.000 bis 200.000 Euro pro Jahr

Aus der 340/180-Rechnung wird über drei Jahre eine 490/240-Rechnung, plus das eingeplante Wechselkosten-Risiko.

Das ist kein Grund zur Absage. Viele dieser Investitionen lohnen sich auch in der vollständigen Rechnung. Aber sie lohnen sich anders. Der Rückfluss kommt nicht nach 14 Monaten, sondern nach 24. Und die Alternative heißt nicht mehr „nichts tun”, sondern „anders tun”.

Drei Fragen an Ihren IT-Verantwortlichen

Bevor Sie einen Business-Case für KI-Infrastruktur unterschreiben, prüfen Sie, ob er diese drei Fragen beantwortet:

Wie viel Umbau-Arbeit erzeugt das System in den Fachabteilungen? Nicht einmalig, sondern über zwei Jahre. Wer darauf keine Antwort hat, rechnet nur die Technik und nicht die Organisation.

Was kostet ein Wechsel in drei Jahren? In meinen Gesprächen wird diese Frage oft als unpassend empfunden. Sie ist es nicht. Sie zeigt, wie abhängig Sie sich von einem Anbieter machen.

Was wäre die Alternative? Nicht „nichts tun”, sondern konkret: ein anderes Investment, eine andere Architektur, ein anderer Zeitpunkt. Wenn darauf keine überzeugende Antwort kommt, wurde der Business-Case ohne echten Vergleich entwickelt.

Was daraus folgt

Investitionen in KI-Infrastruktur sind nicht zu vermeiden, aber anders zu kalkulieren als frühere IT-Projekte. Zu den sichtbaren Kosten kommen Umbau-Kosten, Wechselkosten und die Kosten des Wartens. Wer nur die sichtbaren Kosten rechnet, entscheidet auf einer zu freundlichen Grundlage.

Das heißt nicht: warten. Das heißt: wissen, was Sie unterschreiben. Die Entscheidung, ob, wie, mit wem und wann Sie in agentische Infrastruktur investieren, gehört zu den wichtigsten strategischen Entscheidungen der nächsten Jahre für Ihr Haus. Treffen Sie sie nicht allein auf Basis eines Business-Cases, der drei von vier Kostenkategorien weglässt.

Der konkrete nächste Schritt: Geben Sie den Business-Case zurück und lassen Sie die drei Fragen schriftlich beantworten. Erst dann unterschreiben Sie — oder Sie unterschreiben bewusst nicht.

— Axel Roth