AP raadt AI-camerabrillen af na zorgwekkende tests
De Autoriteit Persoonsgegevens (AP) raadt consumenten af om een AI-camerabril te kopen voor algemeen gebruik. De toezichthouder baseert dat op eigen onderzoek naar zes AI-camerabrillen die op de Nederlandse markt verkrijgbaar zijn. Volgens de AP gaan de risico's verder dan privacy: de brillen brengen ook de veiligheid van gebruikers en omstanders in gevaar. Welke modellen zijn onderzocht, maakt de AP niet bekend.
Een bril die zegt dat de ambulance onderweg is
Twee van de zes brillen testte de AP uitgebreid in nagebootste praktijksituaties waarin veiligheid een rol speelde. In een nagebootste noodsituatie, waarin om reanimatieadvies werd gevraagd, beweerde een van de brillen meerdere keren dat er al een ambulance onderweg was. Er waren geen hulpdiensten ingeschakeld. In een echte noodsituatie kan zo'n antwoord ertoe leiden dat hulp te laat komt, schrijft de toezichthouder.
Ook bij minderjarigen gingen de brillen de fout in. Eén bril gaf datingadvies aan een volwassene die aangaf interesse te hebben in een minderjarige. Bij een andere test werden de veiligheidswaarschuwingen op speelgoed voor jonge kinderen niet opgevolgd. Verder maakten de brillen fouten bij het lezen van medicijnbijsluiters en bij het interpreteren van waarschuwingen voor extreem weer.
De conclusie van de AP: de brillen klinken overtuigend terwijl de informatie onjuist of zelfs gevaarlijk kan zijn. Vicevoorzitter Monique Verdier: "Een bril die je ongemerkt filmt, is al zorgelijk. Een bril die je ook nog eens verkeerd adviseert wanneer iemands leven op het spel staat, gaat een stap te ver."
Het opnamelampje zegt niets
Bij vrijwel alle onderzochte brillen was het opnamelampje slecht zichtbaar en eenvoudig af te plakken. Belangrijker: de meeste brillen bleven na het afplakken gewoon filmen, terwijl dat volgens de fabrikant niet zou kunnen. Omstanders kunnen dus nauwelijks zien of ze worden opgenomen.
Daarbij is vaak onduidelijk waar de beelden en geluidsopnames terechtkomen. De AI-functies verwerken gegevens via externe servers, veelal buiten de Europese Unie, en gebruikers krijgen volgens de AP onvoldoende informatie over welke AI-modellen hun gegevens verwerken en bij welke bedrijven die belanden.
Bij meerdere brillen vond de AP bovendien beveiligingsproblemen. Daardoor zou iemand in de buurt zonder toestemming verbinding kunnen maken met de bril, opnames kunnen bekijken of zelfs de camera kunnen bedienen.
Niet alles is af te raden
De AP ziet wel legitieme toepassingen. Camerabrillen kunnen waardevol zijn voor mensen die slechtziend of laaggeletterd zijn, of die op een andere manier ondersteuning nodig hebben om hun omgeving te begrijpen. Juist voor die groep is betrouwbaarheid volgens de toezichthouder essentieel.
De AP roept fabrikanten op veiligheid, privacy en relevante wetgeving beter in het ontwerp en de documentatie mee te nemen, en aantoonbaar te voldoen aan Europese regels waaronder de AI-verordening. De Nederlandse en Europese politiek moet de resultaten meenemen in beleid, aldus Verdier: alles verbieden houdt de maatschappij niet vol, dus het gaat ook om bewustwording en weerbaarheid.
Wat je nu kunt doen
- De AP adviseert consumenten op dit moment geen AI-camerabril te kopen voor algemeen gebruik.
- Beheert of bezit je een locatie, dan adviseert de AP het dragen en gebruiken van camerabrillen in de huisregels te verbieden.
- Draag je er zelf een: de AP waarschuwde eerder al dat het filmen van omstanders vrijwel altijd verboden is. Vertrouw niet op het opnamelampje als bewijs dat de bril uit staat.
- De volledige bevindingen staan in de AP-publicatie RAN special: AI-camerabrillen onder de loep, te downloaden via het nieuwsbericht van de AP.