Der TÜV-Verband und das Bundesamt für Sicherheit in der Informationstechnik (BSI) haben am 07.10.2026 die Studie „Künstliche Intelligenz und Cybersicherheit in Unternehmen“ vorgestellt. Befragt wurden mehr als 500 Unternehmen ab 20 Mitarbeitenden. 17 Prozent berichten von bestätigten Vorfällen (4 Prozent), Verdachtsfällen (11 Prozent) oder beidem (2 Prozent), bei denen Künstliche Intelligenz (KI) bei einem Cyberangriff oder Betrugsversuch eine Rolle gespielt hat oder gespielt haben könnte. Am häufigsten sind täuschend echte Phishing-Mails (90 Prozent der betroffenen Unternehmen), gefolgt von automatisierten Angriffsskripten (40 Prozent) und Deepfakes (11 Prozent). Bei der Vorbereitung gibt es Lücken. Unter den Unternehmen mit bestehender oder geplanter KI-Nutzung haben nur 11 Prozent spezielle Abläufe für KI-bezogene Sicherheitsvorfälle. 43 Prozent nutzen ihre allgemeinen IT-Sicherheitsprozesse ohne KI-spezifische Ergänzung, 20 Prozent arbeiten daran, 25 Prozent haben keine Regelung. Beim eigenen KI-Einsatz setzen 67 Prozent der KI-nutzenden Unternehmen auf Qualitätssicherung und menschliche Prüfung kritischer Ergebnisse, 64 Prozent beschränken Zugriffsrechte. Protokollierung oder Monitoring der KI-Nutzung gibt es nur bei 40 Prozent. Für Banken und Versicherer ergibt sich daraus ein möglicher Arbeitsauftrag: Vorfallmanagement und Notfallprozesse um KI-Szenarien ergänzen, etwa Deepfake-Anrufe mit Zahlungsaufforderung. Zudem können sie KI-Anwendungen klassifizieren, freigeben und im Betrieb überwachen. Aus unserer Erfahrung bei Kunden aus Versicherung und Bank bewährt es sich, die vorhandenen Prozesse für Informationssicherheit und Vorfallbearbeitung um KI-Szenarien, Zuständigkeiten und Prüfpunkte zu ergänzen. Die Studie befragt Unternehmen unabhängig von der Branche, sie ist nicht auf Banken und Versicherer beschränkt und keine Aufsichtsvorgabe.
Originalquelle: Bundesamt für Sicherheit in der Informationstechnik (BSI) →