Kürzlich machte das Software-Unternehmen SAP Schlagzeilen mit der Meldung, dass der Konzern seine Kosten für den Einsatz von KI durch Budgets für einzelne Mitarbeitende drosseln möchte. So nachvollziehbar dieser Schritt ist – der Verbrauch von KI-Token kann schnell gleichermaßen intransparent wie hoch werden –, starre Budgets sind nicht das einzige Mittel.
In diesem ersten Beitrag einer Reihe zum effizienten Einsatz von KI erklären wir das Problem. In den folgenden Teilen geben wir Tipps, wie sich Leistung, Sicherheit und Kosten in einem vernünftigen Verhältnis halten lassen.
Kosten für KI-Token: Was ist bei SAP geschehen?
„SAP überprüft fortlaufend seine Investitionen, um Ressourcen gezielt dort einzusetzen, wo sie den größten langfristigen Mehrwert für Kunden schaffen“, teilte das Unternehmen im Juli 2026 mit. „Daher investieren wir verstärkt in KI-bezogene Kompetenzen, Talente und Technologien. Gleichzeitig gehen wir bei Neueinstellungen, externen Ausgaben und internen Reisen bewusster und gezielter vor.“ Dahinter steht das Ziel, die gestiegenen Kosten für KI-Dienstleistungen zu begrenzen.
Beim DAX-Konzern aus Walldorf war die Nutzung von KI-Token offenbar ausgeufert. Die Konzernführung reagierte mit einer presseöffentlichen Ankündigung, künftig genau zu budgetieren und in einem klassischen Controllingprozess zu reviewen. Mitarbeitende sollen je nach Rolle unterschiedliche Budgets erhalten – Token gelten dabei als zentrale Maßeinheit für Einsatz und Abrechnung von KI. Regulär vorgesehen sind zwischen 100 und 5.000 Euro im Monat, in Ausnahmefällen einmalig bis zu 50.000 Euro. Die Einführung des Systems läuft noch.
Ohne KI wird kaum ein Unternehmen dauerhaft erfolgreich sein. Aber wer Token verbraucht wie eine Tüte Popcorn, verbrennt schnell viel Geld – und kann den Nutzen von KI trotzdem nicht messen.
Welches Problem bearbeitet SAP eigentlich wirklich?
Laut dem Beratungs- und Analyseunternehmen Gartner steigen die weltweiten Ausgaben für KI-Modelle und -Plattformen auf 64 Milliarden Dollar – eine stolze Summe und eine satte Steigerung um 63 Prozent. Wie viel SAP davon ausgibt, ist bislang nicht bekannt. Bekannt ist das Gegenstück: Bis zu 2 Milliarden Euro sollen mithilfe von KI in der Softwareentwicklung eingespart werden.
Gerade in Forschung und Entwicklung, mit rund 38.000 Beschäftigten der größte Bereich, sind die Möglichkeiten immens. Werkzeuge wie Claude Code und GitHub Copilot entwerfen Programmcode, erstellen Dokumentation und führen Tests durch. Diese Prozesse haben ihren Preis. Es gilt also, Belegschaft und Token-Nutzung ins richtige Verhältnis zu setzen. Doch was ist das richtige Verhältnis?
Budgetdeckel allein optimieren die falsche Größe
Ein Token-Budget von 500 Euro entspricht ungefähr zwei bis drei Stunden Entwicklerzeit. Wer eine Entwicklerin am 20. des Monats sperrt, spart im dreistelligen Bereich und riskiert Kosten im vierstelligen. Der Deckel begrenzt die sichtbare Rechnung, nicht die eigentlichen Kosten.
Sinnvoller ist Transparenz plus Steuerung über Stückkosten: Was kostet ein Pull Request, ein bearbeitetes Ticket, ein automatisiert erstellter Bericht? Erst diese Kennzahl macht die Frage beantwortbar, ob sich der Einsatz lohnt. SAP macht das teilweise auch – der presseöffentliche Deckel wirkt allerdings eher wie eine Erziehungsmaßnahme als wie eine Einsparmaßnahme. Er dient auch PR und Investor Relations, nachdem Europas größter Softwarekonzern zuletzt für hohe Kosten in der Kritik stand.
Drei Muster sehen wir in Projekten immer wieder:
- Kosten ohne Bezugsgröße. Token pro Monat sagen nichts aus, solange niemand weiß, welcher Output dahintersteht.
- Falsches Modell für die falsche Aufgabe. Ein Großteil der Anfragen braucht kein Spitzenmodell; Routing und kleinere Modelle senken die Rechnung oft deutlich, ohne dass es jemand merkt.
- Fehlende Datendisziplin. Wer bei jedem Prompt denselben Kontext erneut durch die Leitung schickt, bezahlt für Redundanz statt für Intelligenz.
Was sind die Alternativen – und wie arbeiten wir bei control-f?
Genau deshalb hat bei uns in den letzten Monaten ein Umdenken stattgefunden. Wir nutzen inzwischen nur noch self-hosted LLMs. Damit laufen unsere Modelle auf einer Infrastruktur, die wir kontrollieren. Und wir können die Kosten über klare Absprachen und Flatrates für das ganze Team im Blick behalten, ohne Zuteilungen an einzelne Abteilungen oder Mitarbeitende vorzunehmen.
Der Nebeneffekt ist mindestens so wichtig wie der Kosteneffekt: Daten verlassen unsere Umgebung nicht. Für Kunden aus Energiewirtschaft und kritischer Infrastruktur ist das kein Komfortthema, sondern Voraussetzung. Wie das technisch und organisatorisch genau funktioniert, erklären wir im nächsten Beitrag dieser Reihe.
Wenn Sie wissen möchten, wie man ein self-hosted LLM produktiv einsetzt, melden Sie sich gern bei uns.