Warum KI das Budget sprengt
Der Fehler besteht darin, dass KI als Technologiekosten verwaltet und nicht als ökonomisches System betrachtet wird. KI ist nicht mit Software vergleichbar, die eine viel besser vorhersehbare Kostenstruktur aufweist: Bei Kauf von Lizenzen fallen Lizenzgebühren an, die Kosten sind transparent und steigen nur bei Personalwachstum oder Vertragsverlängerungen.
Bei KI sind die Kosten nicht so gut prognostizierbar. Sie steigen nicht nur mit der Anzahl der Nutzerinnen und Nutzer, sondern auch abhängig davon, welche Fragen gestellt werden, wie tiefgehend das Modell denkt und wie viele Aufgaben durch KI-Systeme geleitet werden. In zunehmendem Maß erfolgt die Nutzung nicht nur durch Menschen, sondern durch Agenten und automatisierte Workflows, die rund um die Uhr Inferenz beanspruchen, ohne dass sich dies in zählbaren Lizenzen oder einer Lizenzobergrenze niederschlägt.
Bei fast jeder untersuchten Bereitstellung, einschließlich unserer eigenen, wird ein Großteil der Ausgaben durch einen kleinen Anteil der Nutzenden verursacht – weniger als 10 % der Nutzenden und Workflows treiben die Rechnung nach oben. Die Nachfrage nach KI ist enorm: Täglich werden Hunderte Anträge gestellt, die Ausgabenlimits für KI- und Agenten-Nutzung zu erhöhen.
Da KI Unternehmen immer stärker durchdringt, steigt der Verbrauch mit jedem neuen Workflow, jedem neuen Agenten und jeder neuen Modalität. Chatbots werden zu Agenten. Agenten werden zu Teams aus Agenten. Text wird durch Bilder, Videos und Audio multimodal erweitert. Auch autonome Roboter am physischen Edge nutzen dieselbe KI-Infrastruktur. Jede Entscheidung und jede Ausnahme erzeugt dabei Token-Kosten, die in vielen Fällen nicht im ursprünglichen Budget berücksichtigt wurden. Immer mehr Anwendungsfälle lassen die Verbrauchskurve exponentiell wachsen. Goldman Sachs geht davon aus, dass der Tokenverbrauch bis 2030 einen Wert von etwa 120 Quadrillionen Token pro Monat erreichen wird – etwa 24 Mal so viel wie heute. Unternehmen, die sich an der aktuellen Nutzung orientieren, gehen von Annahmen aus, die schnell veraltet sein werden.
Sicherheit bringt weitere versteckte Kosten mit sich, und kein Unternehmen kann es sich leisten, diese zu ignorieren. Je mehr Modelle, Agenten, Daten und vernetzte Systeme ein Unternehmen hinzufügt, desto aufwendiger müssen diese geschützt werden. Diese Abwehrmaßnahmen – ständiges Scannen, strengere Zugriffskontrollen, Bedrohungsüberwachung und schnelle Reaktion – lassen die tatsächlichen Kosten für jede Bereitstellung weiter anwachsen. Dies wird bei der ursprünglichen Kostenplanung oft nicht berücksichtigt, jedoch steigen diese Kosten mit jedem neuen Agenten und jeder Verbindung.
Dies ist die KI-Variante des Jevons-Paradoxons: Genauso wie effizientere Dampfmaschinen dazu geführt haben, dass der Kohleverbrauch in Großbritannien zu- und nicht abnahm, führen sinkende Token-Preise dazu, dass Unternehmen KI intensiver nutzen als zuvor, da sich mittlerweile Aufgaben lohnen, die zuvor Kosten in prohibitiver Höhe verursacht haben.
Unsere Simulation[3] ergab, dass bei einem Rückgang der Token-Preise um 25 % nur 15 % der Unternehmen die Einsparungen realisieren würden. Der Rest würde in neue Anwendungsfälle, erweiterte Workloads oder qualitativ höherwertige Modelle investieren. Die Lösung kann nicht sein, die Nutzung von KI durch Mitarbeitende zu begrenzen, denn so würden auch die Produktivitätsgewinne begrenzt, die die KI ermöglichen soll. Die Lösung besteht darin, neue Aufgaben dem günstigsten dafür geeigneten Modell zuzuweisen, sodass mit demselben Budget mehr nützliche Arbeit und messbare Erträge realisiert werden können.
Auch ein zweiter Faktor ist genauso bedeutend: Die Pareto-Front, d. h. die optimale Kombination aus Kosten und Wert. Die meisten Unternehmen investieren mehr als nötig, ohne dass eine Aufgabe dies rechtfertigt, oder sie verzichten durch falsche Aufgabenzuweisung auf mögliche Wertzuwächse. Die fortschrittlichsten Unternehmen schließen diese Lücke, indem sie Aufgaben, Kosten und Modelle optimal aufeinander abstimmen und die Kurve anschließend durch Komprimierung von Prompts, intelligenteres Caching und Destillation von Modellen verschieben.
Um dies an einem konkreten Beispiel zu veranschaulichen: Eine Präsentation zum Quartalsabschluss, an der zuvor drei Finanzanalystinnen und Finanzanalysten insgesamt 15 Stunden gearbeitet haben, kann inzwischen durch eine Person innerhalb von zwei Stunden erstellt werden, und das bei Token-Kosten von ein paar hundert Dollar im Vergleich zu Tausenden von Dollar, die für die zuvor benötigte und nun freigewordene Arbeitszeit angefallen sind. Dies ist der Kompromiss, den die Pareto-Front misst. Der Ertrag sind nicht die gesparten Token, sondern die freien Kapazitäten, die für höherwertige Arbeit eingesetzt werden können. Im Vergleich zu den bisher vom Unternehmen erfassten Ergebnissen ist diese Reinvestition der entscheidende Hebel dafür, dass Ausgaben für Token zu höheren Erträgen führen.
Das Zusammenwirken dieser Faktoren erklärt die strategische Bedeutung, die KI-Tokenomics mittlerweile erlangt hat. Unternehmen optimieren, um mit weniger Einsatz höhere Erträge zu erzielen. Dabei wird die Pareto-Front nach außen verschoben: Die Qualität verbessert sich, die Kosten sinken, neue Anwendungsszenarien entstehen und der Verbrauch nimmt zu. Die Kunst liegt darin, zu erkennen, wo KI Mehrwert schafft, wann Einsparungen realisiert werden sollten und wie diese reinvestiert werden können.
Die Modellregel
Zunächst gilt es, das für eine Aufgabe erforderliche KI-Niveau mit der Wertschöpfung und den Risiken abzustimmen. Als Daumenregel gehen wir davon aus, dass nur 10–20 % der Aufgaben in Unternehmen so komplex sind, dass sie die Funktionalität von Frontier- oder Near-Frontier-Modellen benötigen.
Ein sinnvoller Test: Wenn sich eine Aufgabe in klar definierte Schritte unterteilen lässt, genügt wahrscheinlich ein kompakteres Modell. Frontier-Modelle sollten nur dann eingesetzt werden, wenn sich die Komplexität von Aufgaben nicht reduzieren lässt und der Erkenntnisgewinn durch eine Zerlegung beeinträchtigt wird, wenn Fehler durch lange Agentenketten verstärkt werden oder wenn die gewünschte Auskunft rechtliche, finanzielle und regulatorische Fragestellungen betrifft.
Bei einigen Aufgabenmustern sind diese Anforderungen gegeben. Ein Beispiel hierfür ist komplexes Reasoning: Wenn ein Chief Strategy Officer die eigene Wettbewerbsposition, Makrotrends und die Finanzkennzahlen eines potenziellen Übernahmeziels abwägt, um das tatsächliche strategische Risiko zu benennen, erfordert die Aufgabe, widersprüchliche Belege gegeneinander abzuwägen – und daraus ein nicht naheliegendes Urteil abzuleiten. Ein weiteres Beispiel sind agentische Workflows mit hohen Kosten bei Fehlern: Ein Versagen innerhalb der Kette kann dazu führen, dass die gesamte Ausgabe unbrauchbar wird. Auch die Zusammenfassung umfassender Inhalte zählt dazu: Bei einem Due-Diligence-Paket mit 200 Seiten kommt es auf Stringenz und Kohärenz im gesamten Dokument an.
Die Zuweisung von Aufgaben an die passende KI ist eine strategische Entscheidung und keine Frage von technologischen Präferenzen. Führungskräfte benötigen eine klare operative Disziplin: Klassifizierung von Aufgaben anhand von Komplexität und Risiko, Ermittlung des erforderlichen KI-Niveaus sowie anschließende Feinabstimmung und Überwachung des Verbrauchs. Am schwierigsten ist dabei herauszufinden, welche Aufgaben am relevantesten sind.
Unternehmen, denen es nicht gelingt, Routineaufgaben von kognitiv herausfordernden, anspruchsvolleren Aufgaben zu unterscheiden, werden in beide Richtungen falsche Zuweisungen vornehmen: Dies führt dazu, dass teure Modelle auch dann zum Einsatz kommen, wenn sie nicht benötigt werden, und dass durch den Einsatz von schwächeren Modellen auf mögliche Vorteile verzichtet wird. Die Erfahrung von Accenture zeigt: Im KI-Wettlauf entscheidet nicht allein die Leistungsfähigkeit der Modelle. Entscheidend ist ein disziplinierter wirtschaftlicher Umgang mit KI.
Mittels dieser Disziplin gelang es einem Telekommunikationsanbieter, seine jährlichen KI-Ausgaben um 68 % zu senken. Voraussetzung dafür war die Beobachtung des Verbrauchs auf Workflow-Ebene und die anschließende Zuweisung, Feinabstimmung und Neukonzeption von Aufgaben, ehe Verschwendung zum normalen Modus Operandi wurde.
Das Mandat der Geschäftsleitung
In den meisten Unternehmen werden KI-Kosten im Technologiebudget erfasst, während der Wert an anderer Stelle aufgeführt wird – im Kundenservice, im Engineering, im Marketing oder in der jeweiligen Geschäftseinheit, die das Tool nutzt. Der CFO betrachtet die Kosten, der CIO betrachtet die Nutzung und die Geschäftsführung betrachtet die Ergebnisse, aber diese Perspektiven werden nur selten für das gesamte Unternehmen zusammengeführt.