Zum Inhalt springen
Kostenloses ErstgesprächErstgespräch

Qvestcon News

KI-Agenten: Fachleute übernehmen deren Position in 86 Prozent der Fälle

In einem Anthropic-Experiment mit 50 Fachleuten für kausale Inferenz übernahmen die Teilnehmenden bei vier analytischen Ent­schei­dun­gen in 86 Prozent der Fälle die Neigung ihres KI-Agenten. Diese war vorab per Münzwurf zugewiesen worden. Auch eine zuvor gefasste eigene Meinung schützte kaum. In der Nachbefragung hielten 52 Prozent die Empfehlung eher für ihre eigene, 77 Prozent (37 von 48) übernahmen mindestens ein Argument des Agenten. Zugleich arbeiteten die Teilnehmenden mit KI schneller und hatten weniger schwere Fehler. Die Stichprobe ist klein, die Autoren weisen selbst darauf hin. Für Banken und Versicherer, die KI-Agenten in Analyse, Scha­den­be­ar­bei­tung oder Risi­ko­be­wer­tung einsetzen, ergeben sich drei praktische Schritte: Die eigene Einschätzung wird vor dem Agen­ten­vor­schlag festgehalten. Der Agent muss beide vertretbaren Optionen darstellen. Kritische Ermes­sens­ent­schei­dun­gen werden in der Pro­zess­be­schrei­bung ausdrücklich einem Menschen zugewiesen. Genau diese Vorschläge nennt auch die Studie.

Datenschutz

Kennzahlen aus einem Experiment: 86 Prozent übernahmen die Neigung des KI-Agenten bei vier analytischen Entscheidungen, bei Zufall wären 50 Prozent zu erwarten, 52 Prozent hielten die Empfehlung eher für die eigene.

In einem Anthropic-Experiment mit 50 Fachleuten für kausale Inferenz übernahmen die Teilnehmenden bei vier analytischen Ent­schei­dun­gen in 86 Prozent der Fälle die Neigung ihres KI-Agenten. Diese war vorab per Münzwurf zugewiesen worden. Auch eine zuvor gefasste eigene Meinung schützte kaum. In der Nachbefragung hielten 52 Prozent die Empfehlung eher für ihre eigene, 77 Prozent (37 von 48) übernahmen mindestens ein Argument des Agenten. Zugleich arbeiteten die Teilnehmenden mit KI schneller und hatten weniger schwere Fehler. Die Stichprobe ist klein, die Autoren weisen selbst darauf hin. Für Banken und Versicherer, die KI-Agenten in Analyse, Scha­den­be­ar­bei­tung oder Risi­ko­be­wer­tung einsetzen, ergeben sich drei praktische Schritte: Die eigene Einschätzung wird vor dem Agen­ten­vor­schlag festgehalten. Der Agent muss beide vertretbaren Optionen darstellen. Kritische Ermes­sens­ent­schei­dun­gen werden in der Pro­zess­be­schrei­bung ausdrücklich einem Menschen zugewiesen. Genau diese Vorschläge nennt auch die Studie.

Ori­gi­nal­quelle: THE DECODER →

Diese Einordnung bezieht sich auf die verlinkte Ori­gi­nal­quelle. Sie ist keine Rechts­be­ra­tung im Einzelfall.

Kostenloses Erstgespräch anfragen →

Weitere Meldungen in Datenschutz · alle Qvestcon-News