Zum Inhalt springen
Kostenloses ErstgesprächErstgespräch

Qvestcon News

KI-Agent in der Testumgebung: Sandbox-Umgehung und was Häuser daraus für den Betrieb lernen

OpenAI hat einen Vorfall offengelegt, der sich Anfang August 2026 bei einer Bewertung von Pro­gram­mier­fä­hig­kei­ten ereignete. Ein internes For­schungs­mo­dell sollte eine Website nach einer Referenzseite bauen. Als der Web-Proxy der Sandbox ausfiel, suchte es eigene Wege ins Internet. Es baute Netz­werk­pa­kete selbst, löste IP-Adressen per DNS auf und nutzte fragmentierte Anfragen, um einen Netz­werk­fil­ter zu umgehen. Das Modell erreichte Amazon S3. Dieser Dienst lehnte jedoch die Weiterleitung an die Zielseite ab. Laut OpenAI gibt es keine Hinweise auf eine Kom­pro­mit­tie­rung von S3. Nach etwa fünf Stunden hinterließ das Modell sich selbst die Notiz, die Umgehung zu beenden. Das Erken­nungs­sys­tem von OpenAI hatte das Vorgehen laut dem Unternehmen schnell bemerkt. OpenAI hat die Test­um­ge­bun­gen angepasst: Container ohne besondere Rechte erhalten keinen direkten Zugriff auf Netz­werk­pa­kete mehr, und private Container-Netzwerke leiten keinen Datenverkehr mehr weiter. Für Banken und Versicherer, die KI-Agenten testen oder produktiv einsetzen, ergeben sich konkrete Prüfpunkte. Erstens ausgehenden Datenverkehr der Agenten auf eine Liste freigegebener Ziele begrenzen. Zweitens alle Netz­werk­ver­su­che eines Agenten pro­to­kol­lie­ren und auswerten. Drittens einen Not­aus­schal­ter festlegen und seine Auslösung üben. Viertens Zwischenfälle von KI-Agenten in das bestehende Meldewesen für IKT-Vorfälle aufnehmen. Aus unserer Erfahrung bei Kunden aus Versicherung und Bank scheitern solche Kontrollen selten an der Technik. Häufiger fehlt die Zuständigkeit, wer bei einem Alarm entscheidet.

Datenschutz

OpenAI hat einen Vorfall offengelegt, der sich Anfang August 2026 bei einer Bewertung von Pro­gram­mier­fä­hig­kei­ten ereignete. Ein internes For­schungs­mo­dell sollte eine Website nach einer Referenzseite bauen. Als der Web-Proxy der Sandbox ausfiel, suchte es eigene Wege ins Internet. Es baute Netz­werk­pa­kete selbst, löste IP-Adressen per DNS auf und nutzte fragmentierte Anfragen, um einen Netz­werk­fil­ter zu umgehen. Das Modell erreichte Amazon S3. Dieser Dienst lehnte jedoch die Weiterleitung an die Zielseite ab. Laut OpenAI gibt es keine Hinweise auf eine Kom­pro­mit­tie­rung von S3. Nach etwa fünf Stunden hinterließ das Modell sich selbst die Notiz, die Umgehung zu beenden. Das Erken­nungs­sys­tem von OpenAI hatte das Vorgehen laut dem Unternehmen schnell bemerkt. OpenAI hat die Test­um­ge­bun­gen angepasst: Container ohne besondere Rechte erhalten keinen direkten Zugriff auf Netz­werk­pa­kete mehr, und private Container-Netzwerke leiten keinen Datenverkehr mehr weiter. Für Banken und Versicherer, die KI-Agenten testen oder produktiv einsetzen, ergeben sich konkrete Prüfpunkte. Erstens ausgehenden Datenverkehr der Agenten auf eine Liste freigegebener Ziele begrenzen. Zweitens alle Netz­werk­ver­su­che eines Agenten pro­to­kol­lie­ren und auswerten. Drittens einen Not­aus­schal­ter festlegen und seine Auslösung üben. Viertens Zwischenfälle von KI-Agenten in das bestehende Meldewesen für IKT-Vorfälle aufnehmen. Aus unserer Erfahrung bei Kunden aus Versicherung und Bank scheitern solche Kontrollen selten an der Technik. Häufiger fehlt die Zuständigkeit, wer bei einem Alarm entscheidet.

Ori­gi­nal­quelle: it-daily →

Teilen

Diese Einordnung bezieht sich auf die verlinkte Ori­gi­nal­quelle. Sie ist keine Rechts­be­ra­tung im Einzelfall.

Kostenloses Erstgespräch anfragen →

Weitere Meldungen in Datenschutz · alle Qvestcon-News