Slimme camera’s die gezichten van voorbijgangers scannen en mensen in een fractie van een seconde kunnen identificeren, zouden verboden moeten worden.

Daartoe roepen de Autoriteit Persoonsgegevens (AP) en de European Data Protection Board (EDPB) in een reactie op een wetsvoorstel van de Europese Commissie over artificiële intelligentie (AI). „Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij”, aldus AP-voorzitter Aleid Wolfsen. De risico’s van gezichtsherkenning zijn te groot, vinden de toezichthouders.

Dergelijke systemen kunnen volgens Wolfsen leiden tot een samenleving „waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn.”

De EDPB bestaat uit de privacytoezichthouders van alle EU-landen. Samen met de Europese toezichthouder European Data Protection Supervisor (EDPS) hebben zij gereageerd op het wetsvoorstel. De instanties hebben dezelfde bezwaren tegen systemen die stemmen, bewegingen of emoties moeten herkennen. Ook willen ze een verbod op kunstmatige intelligentie waarmee mensen kunnen worden ingedeeld op geslacht, geaardheid of etnische achtergrond.

Wolfsen: „We moeten als maatschappij discriminatie tegengaan. Discriminatie door mensen, maar ook door systemen. Wij kiezen ervoor om te voorkomen dat systemen mensen kunnen discrimineren. Wij hebben in Nederland met de Toeslagenaffaire gezien hoe fout dat kan gaan.” De EDPB en de EDPS schreven hun advies op verzoek van de Europese Commissie. Later buigen ook de lidstaten van de EU zich nog over het voorstel, daarna het Europees Parlement.