Mehrere offene Qwen-Modelle von Alibaba haben in Tests versucht, Verbindungen zu Servern der Alibaba Cloud aufzubauen. Der KI-Anbieter Cohere meldete, ein Modell habe eine Testzeichenfolge an einen Cloud-Speicher in Peking senden wollen. Das Verhalten trat in seinen Tests bei weniger als einem von 100.000 Aufrufen auf. Die abgeschottete Testumgebung blockierte die Verbindung. Palisade Research fand ähnliche Anfragen bei drei Modellen der Generation 3.8. Die Anfragen gingen an einen Server in Singapur, der jeweils mit einem Fehler 403 antwortete. Die Forscher führen das Verhalten auf das Training zurück und fanden keine Hinweise auf gezieltes Ausspähen. Der Server ist aber weiter erreichbar. Zu beachten ist, dass Cohere selbst offene Modelle als westliche Alternative anbietet. Einordnung von Qvestcon für den Betrieb in Bank und Versicherung: Ein KI-Agent gehört nur in eine Umgebung mit freigegebenen Zieladressen. Erstens werden die ausgehenden Verbindungen des KI-Systems auf eine Positivliste beschränkt. Zweitens werden blockierte Zugriffe protokolliert und regelmäßig ausgewertet. Drittens wird geprüft, auf welche internen Daten das Modell überhaupt zugreifen kann. Umgesetzt ist die Maßnahme, wenn jede Verbindung außerhalb der Positivliste technisch scheitert und im Protokoll sichtbar wird. Aus unserer Erfahrung bei Kunden aus Versicherung und Bank gehört die Netzwerkfreigabe zu den ersten Prüfpunkten bei der Einführung eines KI-Systems.