Stand: 15. Mai 2026
Dies ist der erste Beitrag unserer Serie “Aus dem Maschinenraum”. In fünf Teilen erzählen wir, was wir beim Bau unserer eigenen KI-Infrastruktur gelernt haben und welche Prinzipien davon auch für mittelständische Unternehmen gelten.
Warum Ihr KI-Budget schmilzt, obwohl die Ergebnisse gut aussehen
Wir optimieren seit Monaten unsere eigene KI-Infrastruktur. An einem Punkt fiel uns auf: die Ergebnisse wurden besser, doch die Kosten stiegen nicht im erwarteten Verhältnis. Der Grund lag nicht im Modell und auch nicht in der Größe der Aufgaben. Er lag in etwas viel Unscheinbarerem.
Der Stammfahrer und die wechselnden Taxis
Stellen Sie sich vor, Ihr Stammtaxifahrer kennt Ihre Büroadresse auswendig. Sie steigen ein, er fährt los. Kein Erklären, keine Eingabe, kein Stau im Gespräch.
Jetzt stellen Sie sich vor, bei jeder Fahrt sitzt ein anderer Fahrer am Steuer. Sie lesen jedes Mal die komplette Wegbeschreibung vor. Gleiche Strecke, gleiche Zeit, doppelter Aufwand.
Genauso funktioniert die Abrechnung bei modernen KI-Systemen. Stabile Grundlagen, die in jeder Sitzung gleich bleiben, kosten fast nichts. Inhalte, die sich pro Sitzung ändern, werden voll berechnet. Wer es schafft, möglichst viel davon stabil zu halten, zahlt einen Bruchteil. Wer in jeder Sitzung von vorne anfängt, zahlt jedes Mal voll.
Wir nennen das in der Fachsprache Prompt-Caching. Aber das eigentliche Thema ist nicht technisch. Es ist eine Frage der Disziplin im Setup.
Drei Muster aus dem KMU-Alltag
Wir sehen diese drei Muster immer wieder, wenn wir mit Geschäftsführern über ihren KI-Einsatz sprechen.
Erstens, das wandernde Briefing. Statt einer einheitlichen Beschreibung des Unternehmens, der Zielgruppe und der internen Tonalität wird jedes Mal frisch erklärt, wer man ist und was man macht. Das ist menschlich nachvollziehbar, kostet aber bei jeder Sitzung Geld.
Zweitens, der vergessliche Assistent. Wichtige Standards, Vorlagen, Begriffe und Regeln existieren irgendwo, werden aber nicht in das KI-System eingebracht. Jede Mitarbeiterin und jeder Mitarbeiter beginnt von Null.
Drittens, das laute Vorzimmer. Statt ruhiger, klar abgegrenzter Aufgaben werden viele kleine Anfragen mit jeweils komplettem Hintergrund gestellt. Die KI weiß nichts vom vorigen Gespräch, also wird der Kontext jedes Mal neu geliefert.
In allen drei Fällen entsteht der gleiche Effekt: das Ergebnis ist okay, die Rechnung ist deutlich höher als nötig. Das Schlimme daran ist nicht der einzelne Euro, sondern dass es niemand bemerkt. Der Posten taucht in keiner Auswertung als “vermeidbar” auf.
Drei Fragen für den nächsten Termin mit Ihrem KI-Dienstleister
Sie müssen das nicht selbst messen. Sie müssen nur die richtigen Fragen stellen.
Frage eins: Welche Grundlagen werden in jeder unserer KI-Sitzungen automatisch geladen, und welche nicht?
Frage zwei: Was bleibt von Sitzung zu Sitzung konstant, und was wechselt täglich? Können wir die wechselnden Anteile reduzieren oder verschieben?
Frage drei: Gibt es ein Reporting, das uns zeigt, wie hoch der Anteil an wiederverwendetem Kontext ist? Wenn nein, was würde es kosten, eines einzurichten?
Wenn Ihr Dienstleister diese Fragen souverän beantwortet, sind Sie in guten Händen. Wenn die Antwort zögerlich ausfällt, haben Sie soeben einen Hebel gefunden.
Was wir daraus mitnehmen
Die teuersten KI-Fehler sind oft keine Fehler im Modell. Es sind Fehler im Setup drumherum. Das ist auch der Grund, warum wir bei KI-Berater Hamburg zuerst unsere eigene Infrastruktur durchleuchtet haben, bevor wir sie für unsere Mandanten in Hamburg und der Metropolregion bauen. Wer eigene Erfahrung mit Cache-Hygiene hat, weiß welche Fragen er stellen muss. Wenn Sie diesen Hebel für Ihr Unternehmen nutzen möchten, ist eine KI-Potenzialanalyse der geeignete Einstieg.
Im nächsten Beitrag der Serie schauen wir auf einen verwandten Hebel: die Wahl des richtigen Modells für die richtige Aufgabe. Nicht jede Anfrage braucht den Premium-Motor.
Diese Serie behandelt in fünf Teilen praktische Hebel zur Kostenkontrolle bei KI-Einsatz im Mittelstand.
- Teil 1: Unsichtbare Kosten und Cache-Hygiene (dieser Beitrag)
- Teil 2: Modell-Routing
- Teil 3: Planer und Ausführer
- Teil 4: Asynchrone Verarbeitung
- Teil 5: Wartungsdisziplin