Der Datenbankhersteller Couchbase hat am 3. November 2026 drei Funktionen für den Betrieb von KI-Agenten allgemein verfügbar gemacht: eine Anbindung an Amazon Bedrock mit semantischem Caching, verwaltete Dienste für Agentenspeicher (Agent Memory) und für MCP (Model Context Protocol, die Schnittstelle zwischen Agenten und Daten) sowie die Kombination von Vektorsuche und SQL in einer Abfrage. Der Hersteller gibt folgende Einsparungen an: 33 bis 45 Prozent weniger Token beim Agentenspeicher, 40 bis 60 Prozent weniger Modellaufrufe durch Caching und 70 Prozent kleinere Prompts beim vektorbasierten Kontextabruf. Die Quelle merkt an, dass sich diese Werte unabhängig kaum prüfen lassen und dass der Nutzen des Cachings davon abhängt, wie oft sich Anfragen tatsächlich wiederholen. Für Banken und Versicherer, die KI-Agenten pilotieren, folgt daraus ein klarer Ablauf. Erstens: Messen Sie im Pilot, wie hoch der Anteil gleicher oder sehr ähnlicher Anfragen ist, bevor Sie mit Einsparungen planen. Zweitens: Vergleichen Sie Tokenverbrauch und Antwortqualität mit und ohne Cache an Ihren eigenen Anfragen. Drittens: Klären Sie vorab mit IT-Sicherheit und Datenschutz, welche Inhalte im Cache und im Agentenspeicher abgelegt werden, wer darauf zugreifen darf und wie lange sie gespeichert bleiben. Viertens: Halten Sie fest, bei welchem Dienstleister der Betrieb läuft, damit er im IKT-Informationsregister nach DORA geführt werden kann. Aus unserer Erfahrung bei Kunden aus Versicherung und Bank sind eigene Messwerte aus dem Pilot die belastbarste Grundlage für eine Kostenentscheidung.
Originalquelle: BigData-Insider: Couchbase will KI-Agenten mit weniger Token betreiben →