Das chinesische KI-Unternehmen DeepSeek will seine Modelle weiter als Open Source veröffentlichen, um die Entwicklung einer allgemeinen künstlichen Intelligenz zu beschleunigen. Auf der World Internet Conference in Wuzhen räumte Forschungsingenieur Gao Xi ein, dass offene Modelle die Folgen von Sicherheitsproblemen verstärken können, weil sich veröffentlichte Modellgewichte nicht zurückholen lassen. DeepSeek arbeitet an stärkeren Schutzmaßnahmen, darunter einer Einstufung der Modelle nach Risiken. Konkrete Details nannte Gao nicht. In den USA müssen zivile Bundesbehörden Produkte von DeepSeek nach einer Anordnung des Heimatschutzministeriums aus ihren Systemen entfernen. Für Banken und Versicherer, die offene Modelle prüfen, ergeben sich konkrete Schritte. Führen Sie ein Inventar aller eingesetzten Modelle mit Herkunft und Version. Legen Sie vor dem Einsatz fest, wer ein offenes Modell freigibt und nach welchen Kriterien. Planen Sie einen Ausstieg ein, falls ein Modell später als unsicher gilt, denn ein Rückruf beim Hersteller ist nicht möglich. Bei unseren Kunden hat sich bewährt, die Modellauswahl wie eine Dienstleisterauswahl mit Risikoeinstufung und Wiedervorlage zu führen.