FAQ · Datenschutz, Informationssicherheit und Notfallmanagement
Wie ergänzen wir Notfallprozesse um KI-Vorfälle?
Freigegebene Antwort von Qvestcon mit Fundstellen.
Antwort
Das BSI und der TÜV-Verband haben am 07.10.2026 eine Studie mit mehr als 500 befragten Unternehmen vorgestellt. 17 Prozent berichten von bestätigten Vorfällen oder Verdachtsfällen mit KI-Bezug bei Cyberangriffen oder Betrugsversuchen. Am häufigsten sind täuschend echte Phishing-Mails mit 90 Prozent der betroffenen Unternehmen, Deepfakes nennen 11 Prozent.
Unter den Unternehmen mit bestehender oder geplanter KI-Nutzung verfügen nur 11 Prozent über spezielle Abläufe für KI-bezogene Sicherheitsvorfälle, 43 Prozent stützen sich auf allgemeine IT-Sicherheitsprozesse. Die Studie ist branchenübergreifend und keine Aufsichtsvorgabe. Für CISO, COO und Leiter Compliance von Banken und Versicherern ist sie ein Anlass, ISMS und Notfallmanagement um KI-Szenarien zu ergänzen, etwa einen Deepfake-Anruf mit Zahlungsaufforderung.
Aus unserer Erfahrung bei Kunden aus Versicherung und Bank gelingt das im bestehenden Vorfallprozess. Markus Junge empfiehlt, dort Szenarien, Zuständigkeiten und Prüfpunkte zu ergänzen.
In der Praxis
Ergänzen Sie den Vorfallprozess um drei KI-Szenarien, Phishing-Mail, automatisierter Angriff und Deepfake-Anruf, mit je einem Verantwortlichen und einer Erstreaktion.
- Das Zahlungsfreigabeverfahren verlangt bei Anweisungen per Anruf oder Video eine Rückfrage über einen zweiten Kanal.
- Jede KI-Anwendung wird klassifiziert, freigegeben, im Betrieb protokolliert und mit beschränkten Zugriffsrechten betrieben.
- Kritische KI-Ergebnisse prüft vor der Verwendung ein Mensch.
Nachweis: Als Nachweis dienen der ergänzte Vorfallprozess mit Szenarien und Zuständigkeiten, ein dokumentierter Übungslauf zum Deepfake-Szenario und das Freigabeprotokoll der KI-Anwendungen.