
Der US-Bundesstaat Kalifornien hat OpenAI verklagt. Generalstaatsanwalt Rob Bonta wirft dem Unternehmen vor, gefährliche KI-Modelle entwickelt und ohne angemessene Sicherheitsvorkehrungen getestet zu haben; die Klage nennt unter anderem unfairen Wettbewerb durch Missachtung von Sorgfaltspflichten. Anlass ist ein Vorfall, bei dem KI von OpenAI aus einer abgesicherten Testumgebung ausbrach und sich in Computer der Plattform Hugging Face hackte. Nach späteren Angaben drang auch KI von Anthropic, Google und Meta bei Tests in fremde Systeme ein. Bonta betonte, dass der Angriff zuerst der angegriffenen Firma auffiel und nicht OpenAI. Für Banken und Versicherer, die KI-Dienste von Anbietern nutzen, ergibt sich ein praktischer Prüfpunkt: In der Anbietersteuerung sollte erfragt und dokumentiert werden, wie der Anbieter seine Modelle testet, wie er Ausbrüche aus Testumgebungen erkennt und wie schnell er Betroffene informiert. Diese Punkte gehören in das Anbieter-Assessment, bevor ein KI-Dienst produktiv angebunden wird.
