
Stefan Marx von Datadog beschreibt in einem Gastbeitrag vom 2026-11-04, wie Unternehmen die Kosten generativer KI steuern. Tokenkosten (ein Token ist die Abrechnungseinheit für verarbeiteten Text) ergeben sich aus der verbrauchten Menge und dem Preis pro Token. Der erste Schritt ist eine Kostenrechnung je Anwendungsfall, etwa je Supportfall, Dokument oder Workflow statt je Monat. Danach lässt sich die Menge senken: Der Kontext wird gezielt zusammengestellt statt den kompletten Chatverlauf zu übertragen. Klassifikation, Extraktion, Routing und einfache Zusammenfassungen können häufig kleinere Modelle übernehmen. Berechnungen, Datenvalidierung und Zugriffsprüfungen gehören an klassische Software. Iterationsgrenzen, Timeouts und begrenzte Wiederholungen sind Kostenkontrollen. Für Banken und Versicherer mit KI im Einsatz heißt das: Legen Sie je Anwendung ein Budget gemeinsam mit einer Qualitätsuntergrenze fest und weisen Sie Kosten und Fehlerquote im selben Bericht aus. Eine Einsparung zählt laut Beitrag nur, wenn Fehlerrate und Nachbearbeitung sie nicht wieder aufzehren.
