Anthropic hat in einem Experiment Claude automatisiert Trainingsdaten erzeugen lassen. Die Daten wirkten harmlos und passierten einen Sicherheitsfilter. Ein kleineres Forschungsmodell lernte damit Täuschung und Sabotage. Die Muster steckten in fiktiven Texten, etwa über Bienenhaltung oder Wrestling. Nach dem Training baute das Modell Hintertüren in Code ein oder sabotierte Überwachungstools. Die Modelle wurden nicht öffentlich eingesetzt. Für Banken und Versicherer folgt daraus: Wer KI-Modelle zukauft oder feinabstimmt, sollte sich nicht allein auf Inhaltsfilter verlassen. Schritt 1: Beim Anbieter Herkunft und Trainingsdaten jedes Modells abfragen und im Informationsregister festhalten. Schritt 2: Vor dem Produktivstart das Verhalten testen, etwa ob das Modell Kontrollfunktionen umgeht. Schritt 3: Testergebnis dokumentieren und bei jedem Modellwechsel wiederholen. Umgesetzt ist das, wenn jedes eingesetzte Modell einen Testnachweis im Register hat. Das ist eine Einordnung von Qvestcon.