Forschende der Singapore AI Safety Fellowship haben untersucht, wie große Sprachmodelle Botschaften in Bildern verstecken. Anthropics Modell Fable 5.1 sollte 50 Kurztexte in 15 Sprachen verstecken, ohne dass eine Methode vorgegeben war. Im Kreuztest entschlüsselte OpenAIs Modell GPT-6 Astra 44 der 50 Bilder, Fable selbst kam auf 42 von 50. Neue Codierungsverfahren erfand keines der Modelle. Die Forschenden sehen keine unmittelbare Gefahr im Alltag, halten aber Risiken für denkbar, wenn KI-Agenten Informationen an Kontrollen vorbeischleusen. Für Banken und Versicherer, die KI-Agenten einsetzen, folgt daraus eine Prüffrage: Sind Bildausgaben und Dateianhänge von Agenten in die Kontrollen für ausgehende Daten einbezogen? Aus unserer Erfahrung bei Kunden aus Versicherung und Bank werden Textkanäle meist überwacht, andere Ausgabeformate dagegen oft nicht.
Qvestcon News
KI-Modelle verstecken Botschaften in Bildern
Forschende der Singapore AI Safety Fellowship haben untersucht, wie große Sprachmodelle Botschaften in Bildern verstecken. Anthropics Modell Fable 5.1 sollte 50 Kurztexte in 15 Sprachen verstecken, ohne dass eine Methode vorgegeben war. Im Kreuztest entschlüsselte OpenAIs Modell GPT-6 Astra 44 der 50 Bilder, Fable selbst kam auf 42 von 50. Neue Codierungsverfahren erfand keines der Modelle. Die Forschenden sehen keine unmittelbare Gefahr im Alltag, halten aber Risiken für denkbar, wenn KI-Agenten Informationen an Kontrollen vorbeischleusen. Für Banken und Versicherer, die KI-Agenten einsetzen, folgt daraus eine Prüffrage: Sind Bildausgaben und Dateianhänge von Agenten in die Kontrollen für ausgehende Daten einbezogen? Aus unserer Erfahrung bei Kunden aus Versicherung und Bank werden Textkanäle meist überwacht, andere Ausgabeformate dagegen oft nicht.
Diese Einordnung bezieht sich auf die verlinkte Originalquelle. Sie ist keine Rechtsberatung im Einzelfall.