In einem Experiment von Anthropic haben 50 Statistiker mit einem KI-Agenten Daten eines fiktiven Verbunds von Bauernhöfen ausgewertet. An mehreren Stellen mussten sie Fragen ohne eindeutig richtige Antwort entscheiden, etwa wie man Produktivität misst. Für jede Frage gab es zwei vertretbare Wege, und welchen der Agent empfahl, legten die Forscher per Zufall fest. In 86 Prozent der Fälle folgten die Fachleute dem Agenten, auch wenn sie sich vorher anders festgelegt hatten. Erfahrung, Fachwissen oder Vertrauen in KI änderten daran wenig; die Stichprobe ist allerdings klein. Gut die Hälfte hielt die abschließende Empfehlung für ihre eigene. Zugleich arbeiteten die Teilnehmer schneller und machten weniger schwere Fehler. Anthropic schlägt vor, dass Agenten beide Optionen gleichwertig darstellen oder zuerst nach der Einschätzung der Fachleute fragen. Für Banken und Versicherer, die KI-Assistenten in Entscheidungsprozesse einbinden, ist das eine Einordnung wert: Wo eine Entscheidung begründet werden muss, kann die eigene Vorabeinschätzung vor der Agenten-Empfehlung festgehalten werden. So bleibt im Entscheidungsprotokoll erkennbar, was der Mensch beurteilt hat und was der Agent vorgeschlagen hat. Bei unseren Kunden hat sich bewährt, diese Trennung im Prozess und nicht erst im Nachhinein zu verankern.