Zum Inhalt springen
Kostenloses ErstgesprächErstgespräch

Qvestcon News

Kamerabrillen mit KI: Niederländer raten vom Kauf ab

Die nie­der­län­di­sche Daten­schutz­be­hörde Autoriteit Per­so­ons­ge­ge­vens rät Kunden vom Kauf KI-gestützter Kamerabrillen ab. Sie untersuchte sechs Brillentypen. Der integrierte KI-Chatbot gab falsche und teilweise gefährliche Auskünfte. In einem simulierten Notfall meldete eine Brille, der Notruf 112 sei verständigt, obwohl sie niemanden angerufen hatte. Ein Ver­kaufs­ver­bot kann die Behörde nicht verhängen. Im Rahmen der EU-Verordnung über künstliche Intelligenz (AI Act) dürfte sie aber mehr Kompetenzen erhalten. Für Banken und Versicherer ergibt sich ein praktischer Schritt: Prüfen Sie, ob Ihre Hausordnung und Ihre Richtlinie zu privaten Geräten Kamerabrillen in Büros, Rechenzentren und Kun­den­be­rei­chen regeln. Legen Sie fest, wer Ausnahmen genehmigt und wie Mitarbeitende davon erfahren. Die Behörde weist darauf hin, dass das Filmen anderer Personen fast immer verboten ist.

DatenschutzVer­öf­fent­licht am

Die nie­der­län­di­sche Daten­schutz­be­hörde Autoriteit Per­so­ons­ge­ge­vens rät Kunden vom Kauf KI-gestützter Kamerabrillen ab. Sie untersuchte sechs Brillentypen. Der integrierte KI-Chatbot gab falsche und teilweise gefährliche Auskünfte. In einem simulierten Notfall meldete eine Brille, der Notruf 112 sei verständigt, obwohl sie niemanden angerufen hatte. Ein Ver­kaufs­ver­bot kann die Behörde nicht verhängen. Im Rahmen der EU-Verordnung über künstliche Intelligenz (AI Act) dürfte sie aber mehr Kompetenzen erhalten. Für Banken und Versicherer ergibt sich ein praktischer Schritt: Prüfen Sie, ob Ihre Hausordnung und Ihre Richtlinie zu privaten Geräten Kamerabrillen in Büros, Rechenzentren und Kun­den­be­rei­chen regeln. Legen Sie fest, wer Ausnahmen genehmigt und wie Mitarbeitende davon erfahren. Die Behörde weist darauf hin, dass das Filmen anderer Personen fast immer verboten ist.

Ori­gi­nal­quelle: heise online →

Teilen

Diese Einordnung bezieht sich auf die verlinkte Ori­gi­nal­quelle. Sie ist keine Rechts­be­ra­tung im Einzelfall.

Kostenloses Erstgespräch anfragen →

Weitere Meldungen in Datenschutz · alle Qvestcon-News