Qvestcon News

KI-Angriffe: Täter spielen Modelle gegeneinander aus

Das Threat-Intelligence-Unternehmen Crowdstrike hat die KI-Infrastruktur von vier Angriffen untersucht, die zwischen Mai und August von vier nicht iden­ti­fi­zier­ten Gruppen verübt wurden. Alle vier ließen ihre KI-Infrastruktur offen auf Webservern erreichbar, sodass die Forscher Aktivitäten und Modelle analysieren konnten. Meist handelte es sich um Versionen von Claude und um Deepseek-Modelle mit offenen Gewichten. Die Gruppen setzten in fast allen Fällen auf ältere Modelle statt auf die neuesten, wegen der Kosten. Zudem nutzten sie mehrere Modelle, um Unterschiede bei den Sicher­heits­vor­keh­run­gen auszunutzen. Alle vier umgingen die Schutz­me­cha­nis­men, indem sie ein Modell davon überzeugten, die geplante Aktivität sei legitim und autorisiert. Nach Aussage von Adam Meyers, Senior Vice President bei Crowdstrike, nutzen die Angriffe keine neuen Schwach­stel­len, sondern Geschwin­dig­keit und Volumen der KI gegen vermeidbare Sicher­heits­män­gel. Für CISO und IT in Banken und Versicherern heißt das: Die Grundhygiene (Patchstand, Rechtevergabe, Härtung) bleibt der wirksamste Hebel gegen KI-gestützte Angriffe. Wer selbst mehrere KI-Modelle einsetzt, sollte prüfen, ob für alle Modelle gleichwertige Schutz­me­cha­nis­men gelten. Umgesetzt ist das, wenn je eingesetztem Modell eine dokumentierte Schutzprüfung vorliegt. Bei unseren Kunden hat sich bewährt, diese Prüfung in das bestehende Infor­ma­ti­ons­si­cher­heits­ma­nage­ment aufzunehmen. #Banken #Versicherer #Finanz­dienst­leis­ter #Prü­fungs­pla­nung #Qvestcon #MarkusJunge #KI #Cyber­si­cher­heit