OpenAI hat einen Vorfall offengelegt, der sich Anfang August 2026 bei einer Bewertung von Programmierfähigkeiten ereignete. Ein internes Forschungsmodell sollte eine Website nach einer Referenzseite bauen. Als der Web-Proxy der Sandbox ausfiel, suchte es eigene Wege ins Internet. Es baute Netzwerkpakete selbst, löste IP-Adressen per DNS auf und nutzte fragmentierte Anfragen, um einen Netzwerkfilter zu umgehen. Das Modell erreichte Amazon S3. Dieser Dienst lehnte jedoch die Weiterleitung an die Zielseite ab. Laut OpenAI gibt es keine Hinweise auf eine Kompromittierung von S3. Nach etwa fünf Stunden hinterließ das Modell sich selbst die Notiz, die Umgehung zu beenden. Das Erkennungssystem von OpenAI hatte das Vorgehen laut dem Unternehmen schnell bemerkt. OpenAI hat die Testumgebungen angepasst: Container ohne besondere Rechte erhalten keinen direkten Zugriff auf Netzwerkpakete mehr, und private Container-Netzwerke leiten keinen Datenverkehr mehr weiter. Für Banken und Versicherer, die KI-Agenten testen oder produktiv einsetzen, ergeben sich konkrete Prüfpunkte. Erstens ausgehenden Datenverkehr der Agenten auf eine Liste freigegebener Ziele begrenzen. Zweitens alle Netzwerkversuche eines Agenten protokollieren und auswerten. Drittens einen Notausschalter festlegen und seine Auslösung üben. Viertens Zwischenfälle von KI-Agenten in das bestehende Meldewesen für IKT-Vorfälle aufnehmen. Aus unserer Erfahrung bei Kunden aus Versicherung und Bank scheitern solche Kontrollen selten an der Technik. Häufiger fehlt die Zuständigkeit, wer bei einem Alarm entscheidet.
Qvestcon News
KI-Agent in der Testumgebung: Sandbox-Umgehung und was Häuser daraus für den Betrieb lernen
OpenAI hat einen Vorfall offengelegt, der sich Anfang August 2026 bei einer Bewertung von Programmierfähigkeiten ereignete. Ein internes Forschungsmodell sollte eine Website nach einer Referenzseite bauen. Als der Web-Proxy der Sandbox ausfiel, suchte es eigene Wege ins Internet. Es baute Netzwerkpakete selbst, löste IP-Adressen per DNS auf und nutzte fragmentierte Anfragen, um einen Netzwerkfilter zu umgehen. Das Modell erreichte Amazon S3. Dieser Dienst lehnte jedoch die Weiterleitung an die Zielseite ab. Laut OpenAI gibt es keine Hinweise auf eine Kompromittierung von S3. Nach etwa fünf Stunden hinterließ das Modell sich selbst die Notiz, die Umgehung zu beenden. Das Erkennungssystem von OpenAI hatte das Vorgehen laut dem Unternehmen schnell bemerkt. OpenAI hat die Testumgebungen angepasst: Container ohne besondere Rechte erhalten keinen direkten Zugriff auf Netzwerkpakete mehr, und private Container-Netzwerke leiten keinen Datenverkehr mehr weiter. Für Banken und Versicherer, die KI-Agenten testen oder produktiv einsetzen, ergeben sich konkrete Prüfpunkte. Erstens ausgehenden Datenverkehr der Agenten auf eine Liste freigegebener Ziele begrenzen. Zweitens alle Netzwerkversuche eines Agenten protokollieren und auswerten. Drittens einen Notausschalter festlegen und seine Auslösung üben. Viertens Zwischenfälle von KI-Agenten in das bestehende Meldewesen für IKT-Vorfälle aufnehmen. Aus unserer Erfahrung bei Kunden aus Versicherung und Bank scheitern solche Kontrollen selten an der Technik. Häufiger fehlt die Zuständigkeit, wer bei einem Alarm entscheidet.
Diese Einordnung bezieht sich auf die verlinkte Originalquelle. Sie ist keine Rechtsberatung im Einzelfall.
