Google hat sein KI-Modell Gemini 4 Carbon nach einer zweiwöchigen Testphase für zahlende Entwickler und Unternehmenskunden allgemein verfügbar gemacht. Laut Google fand das Modell beim Scannen zweier großer SaaS-Anbieter in weniger als zwei Stunden bisher unbekannte Schwachstellen. Im Gray-Swan-Benchmark zu Prompt Injection, also manipulativen Befehlen in Eingabedaten, erreichte es eine Erfolgsrate der Angreifer von 0 Prozent. Die Quelle weist darauf hin, dass damit das Problem nicht gelöst ist, weil der Test womöglich ausgereizt ist. Zwei Schlüsse für die Praxis in Banken und Versicherern: Wer KI-Modelle mit Zugriff auf Dokumente oder Werkzeuge einsetzt, begrenzt deren Rechte weiterhin technisch und verlässt sich nicht auf Herstellerbenchmarks. Und weil KI-Modelle Schwachstellen schneller finden können, lohnt ein Blick auf die eigene Zeit zwischen Warnung und eingespieltem Patch.
Qvestcon News
Gemini 4 Carbon: Cyberfähigkeiten und Prompt Injection
Google hat sein KI-Modell Gemini 4 Carbon nach einer zweiwöchigen Testphase für zahlende Entwickler und Unternehmenskunden allgemein verfügbar gemacht. Laut Google fand das Modell beim Scannen zweier großer SaaS-Anbieter in weniger als zwei Stunden bisher unbekannte Schwachstellen. Im Gray-Swan-Benchmark zu Prompt Injection, also manipulativen Befehlen in Eingabedaten, erreichte es eine Erfolgsrate der Angreifer von 0 Prozent. Die Quelle weist darauf hin, dass damit das Problem nicht gelöst ist, weil der Test womöglich ausgereizt ist. Zwei Schlüsse für die Praxis in Banken und Versicherern: Wer KI-Modelle mit Zugriff auf Dokumente oder Werkzeuge einsetzt, begrenzt deren Rechte weiterhin technisch und verlässt sich nicht auf Herstellerbenchmarks. Und weil KI-Modelle Schwachstellen schneller finden können, lohnt ein Blick auf die eigene Zeit zwischen Warnung und eingespieltem Patch.
Diese Einordnung bezieht sich auf die verlinkte Originalquelle. Sie ist keine Rechtsberatung im Einzelfall.
