KI-Modelle benötigen für das Training eine gewaltige Rechenleistung und die neuesten Computerchips. Was danach passiert, nennt man Inferenz: Jedes Mal, wenn ChatGPT antwortet, ein Agent recherchiert, Code schreibt oder zehn Arbeitsschritte selbstständig ausführt, wird eine kleine Menge Rechenleistung verbraucht. Diese Inferenz-Kosten sind der entscheidende Faktor für den Einsatz von KI-Agenten.
Ein normaler Chat braucht vielleicht einige Modellaufrufe. Ein Agent plant, prüft, verwirft, startet Tools, liest Ergebnisse und versucht es noch einmal. Je komplexer die Aufgabe, desto mehr Tokens und Compute werden verbraucht. Wie viel das sein kann, zeigt OpenAI selbst: In der eigenen Forschungsorganisation lag der tägliche Inferenzverbrauch im August 2026 im Mittel je Forscher bei mehr als 600 US-Dollar – gerechnet zu regulären API-Preisen. Intensive Nutzer kamen sogar auf mehr als 7.000 Dollar pro Tag.
Das klingt absurd teuer – bis man es mit menschlicher Arbeit vergleicht. Ein Mitarbeiter, der das Unternehmen 50.000 Euro im Jahr kostet, liegt bei rund 220 Arbeitstagen bei etwa 227 Euro pro Tag.
Ein Agent kann dagegen rund um die Uhr und parallel arbeiten. OpenAI berichtet für die eigene Forschungsorganisation von rechnerisch 3 Agenten-Arbeitstagen pro menschlichem Arbeitstag. Und für drei Personentage sehen 600 Dollar gar nicht mehr so verrückt aus.
Unsere eigene Erfahrung zeigt, dass die KI noch immer relativ viel Micromanagement benötigt. Es wird weniger. Aber es ist vielleicht auch ganz gut, wenn man hin und wieder nachsieht, was die KI fabriziert oder wo sie sich hineinhackt.
Viel KI hilft nicht immer viel
Wie schnell aus „so viel KI wie möglich“ ein Kostenproblem werden kann, zeigt das Beispiel Uber. Rund 5.000 Entwickler bekamen Zugang zu Claude Code, die intensive Nutzung wurde intern sogar über Leaderboards gefördert. Bereits nach vier Monaten war das für das gesamte Jahr 2026 vorgesehene Budget für KI verbraucht.
Noch drastischer war das „Tokenmaxxing“ bei Meta. Dort gab es intern ein von Mitarbeitern gebautes Leaderboard namens „Claudeonomics“. Mehr als 85.000 Beschäftigte konnten ihren KI-Verbrauch vergleichen. In einem Zeitraum von 30 Tagen liefen so mehr als 60 Billionen Tokens durch die Systeme. Würde man diese Menge mit der damaligen Preisliste für Claude Opus bewerten, entspräche das rund 900 Millionen Dollar. Wieviel Meta für den Spaß wirklich zahlen musste, ist nicht bekannt.
Ist die Qualität von Agenten ausreichend?
Wenn ein Agent für 600 Dollar am Tag wirklich die Arbeit von drei Menschen schafft, kann er wirtschaftlich sein. Wenn er viel Nachkontrolle braucht oder schlechte Ergebnisse produziert, nicht.
Dazu kommt der Planungsfaktor: Die heutigen Preise werden vielleicht nicht dauerhaft gelten. Aktuell bekommt man mit einem kleinen ClaudeAI oder ChatGPT-Abo für 20 € im Monat enorm viel Rechenleistung. Wer sein Abo bis zum Anschlag ausnutzt, kann damit viel erreichen. Allerdings sind die KI-Konzerne unter Druck, ihre enormen Investitionen wieder einzuspielen und ihren Kunden mehr abzuverlangen. Ein dauerhaft solides Geschäftsmodell lässt sich daher auf den jetzigen Preisen nicht aufbauen.
Wer scharf kalkulieren will holt sich exakt budgetierte Inferenz über Schnittstellen bei den großen Modellanbietern. Da zahlt man dann einen weitestgehend stabilen Betrag für jeden Klick. Nur: wie oft muss denn der Agent auf das Modell zugreifen, um ein wirklich gutes Ergebnis zu erzielen? Das ist eine Wissenschaft für sich.
Die Wissenschaft des Ausprobierens
KI‑Projekte zu planen ist schwierig, weil es so viele Variablen gibt: Wohin entwickeln sich die Kosten pro Token? Welches Modell und welches Limit ist das richtige? Arbeitet man mit langen Prompts oder bucht man erweitertes Reasoning? Und die wichtigste Frage: Probiert man das alles selbst oder vertraut man darauf, dass jemand anders diese Forschungsarbeit übernommen hat?
Richtig kluge Systeme, die mit Menschen mithalten können, sind Stand heute – unserer Ansicht nach – noch zu teuer, brauchen zu viele Schleifen und zu viel Entwicklungsarbeit, um wirtschaftlich zu sein. Matheprobleme und abstrakte Benchmarks sagen wenig darüber, ob KI‑Agenten wirklich in der Lage sind zu beurteilen, ob sie überhaupt auf dem richtigen Kurs sind.
Solange das so ist, werden wir Menschen als Entscheidungsträger gebraucht.