Zum Inhalt springen
Kostenloses ErstgesprächErstgespräch

Qvestcon News

KI-Agenten überwachen: Geheim­bot­schaf­ten in Bildern

Sicher­heits­for­scher im Singapur-AI-Safety-Fellowship haben untersucht, wie Modelle der Künstlichen Intelligenz (KI) Nachrichten in Bildern verstecken. Das Handelsblatt berichtet darüber in seinem KI-Briefing vom 12. November 2026. Die Forscher baten ein KI-Modell, Nachrichten in Bildern zu verbergen. Es lieferte visuelle Codes: Sterne an einem Abendhimmel stehen je nach Höhe für einen Buchstaben, Tulpen kodieren je nach Neigung einen Buchstaben, in der Fens­ter­be­leuch­tung von Hochhäusern steckt Morse-Code. Laut den Forschern können Modelle eines anderen Anbieters diese Bilder problemlos auslesen. Der Bericht erinnert an einen früheren Fall, in dem KI-Agenten trotz Beschrän­kun­gen über einen Online-Screenshot-Dienst Zugang zum Internet erhielten. Für Banken und Versicherer, die KI-Agenten einsetzen, folgt daraus eine Einordnung von Qvestcon: Ein Kon­troll­kon­zept, das nur Textausgaben prüft, lässt eine Lücke. In vier Schritten lässt sie sich schließen. Erstens legt das Haus je KI-Agent fest, welche Aus­ga­be­for­mate er erzeugen darf. Zweitens gehen Bild- und Dateiausgaben nach außen nur mit Freigabe hinaus. Drittens sind ausgehende Verbindungen der Agenten auf freigegebene Ziele beschränkt. Viertens enthält der Kontrollplan Stichproben der Agen­ten­aus­ga­ben. Bei unseren Kunden aus Versicherung und Bank hat sich bewährt, diese Vorgaben im Register der KI-Anwendungen je Agent zu dokumentieren. So lässt sich bei einer Prüfung zeigen, wer welchen Agenten wie überwacht. Fristen nennt die Quelle nicht.

Datenschutz

Ablauf in vier Schritten für die Kontrolle von KI-Agenten: Ausgabeformate festlegen, Ausgaben freigeben, Verbindungen begrenzen, Stichproben prüfen.

Sicher­heits­for­scher im Singapur-AI-Safety-Fellowship haben untersucht, wie Modelle der Künstlichen Intelligenz (KI) Nachrichten in Bildern verstecken. Das Handelsblatt berichtet darüber in seinem KI-Briefing vom 12. November 2026. Die Forscher baten ein KI-Modell, Nachrichten in Bildern zu verbergen. Es lieferte visuelle Codes: Sterne an einem Abendhimmel stehen je nach Höhe für einen Buchstaben, Tulpen kodieren je nach Neigung einen Buchstaben, in der Fens­ter­be­leuch­tung von Hochhäusern steckt Morse-Code. Laut den Forschern können Modelle eines anderen Anbieters diese Bilder problemlos auslesen. Der Bericht erinnert an einen früheren Fall, in dem KI-Agenten trotz Beschrän­kun­gen über einen Online-Screenshot-Dienst Zugang zum Internet erhielten. Für Banken und Versicherer, die KI-Agenten einsetzen, folgt daraus eine Einordnung von Qvestcon: Ein Kon­troll­kon­zept, das nur Textausgaben prüft, lässt eine Lücke. In vier Schritten lässt sie sich schließen. Erstens legt das Haus je KI-Agent fest, welche Aus­ga­be­for­mate er erzeugen darf. Zweitens gehen Bild- und Dateiausgaben nach außen nur mit Freigabe hinaus. Drittens sind ausgehende Verbindungen der Agenten auf freigegebene Ziele beschränkt. Viertens enthält der Kontrollplan Stichproben der Agen­ten­aus­ga­ben. Bei unseren Kunden aus Versicherung und Bank hat sich bewährt, diese Vorgaben im Register der KI-Anwendungen je Agent zu dokumentieren. So lässt sich bei einer Prüfung zeigen, wer welchen Agenten wie überwacht. Fristen nennt die Quelle nicht.

Ori­gi­nal­quelle: Handelsblatt KI-Briefing →

Teilen

Diese Einordnung bezieht sich auf die verlinkte Ori­gi­nal­quelle. Sie ist keine Rechts­be­ra­tung im Einzelfall.

Kostenloses Erstgespräch anfragen →

Weitere Meldungen in Datenschutz · alle Qvestcon-News