AIJournaal
Maatschappij

AP raadt AI-camerabrillen af na test van zes modellen op veiligheid

Een paar AI-camerabril ligt op een houten tafel naast een vergrootglas, als symbool voor de veiligheidstest van de Autoriteit Persoonsgegevens.
AI-gegenereerde foto (symbolisch beeld)

De Autoriteit Persoonsgegevens (AP) raadt consumenten op dit moment af een AI-camerabril te kopen. Aanleiding is een test van zes van deze brillen, die volgens de toezichthouder op meerdere punten tekortschieten.

Waarom dit ertoe doet

Wie een AI-camerabril overweegt, kan hiermee ook anderen in de buurt raken, want de privacy van omstanders staat volgens de AP onder druk. Voor Nederlanders is dit relevant, omdat zulke brillen in het openbaar gebruikt kunnen worden.

AI-camerabrillen zijn brillen met een ingebouwde camera en een AI-assistent. Ze kunnen filmen en de omgeving of situaties interpreteren. De AP, de Nederlandse toezichthouder op privacy en op algoritmes en AI, testte er zes voor een speciale uitgave van de Rapportage AI & Algoritmes Nederland (RAN). Die rapportage verschijnt twee keer per jaar; deze special is een tussentijdse uitgave.

Het ging om een test van de productveiligheid vanuit AI-perspectief. De AP keek naar het ontwerp en de documentatie van de brillen. Ook onderzocht ze hoe de brillen functioneren in specifieke veiligheidsscenario's. Welke zes brillen het zijn en hoe de test precies verliep, is uit de beschikbare informatie niet op te maken.

De AP concludeert dat de brillen op verschillende niveaus tekortschieten. Volgens de toezichthouder brengen ze de privacy van omstanders in gevaar, en ook de veiligheid van gebruikers en mensen in hun omgeving. Ook kunnen de brillen verkeerde informatie geven. Een voorbeeld uit een samenvatting van Emerce: bij een nagebootste reanimatie meldde een bril ten onrechte dat er een ambulance onderweg was. Dit voorbeeld kon niet worden bevestigd in de tekst van de AP zelf.

De AP roept ontwikkelaars op om veiligheid, privacy en relevante wetgeving beter mee te nemen in het ontwerp en de documentatie. Bits of Freedom vindt de waarschuwing aan consumenten niet toereikend. Directeur Evelyn Austin vindt dat de AP moet handhaven. Ze vergelijkt het met de NVWA, die gevaarlijk eten niet uit de schappen haalt maar mensen afraadt het te eten.

Concrete tips voor consumenten en omstanders, zoals hoe je een opnemende bril herkent, zijn in de beschikbare informatie niet bevestigd. Het advies van de AP aan consumenten is vooralsnog om geen AI-camerabril te kopen. Het gaat om een test van productveiligheid en niet om een handhavingsonderzoek naar mogelijke overtredingen van privacywetgeving.