De Europese privacytoezichthouders pleiten voor een algemeen verbod op gezichtsherkenning. Ook andere realtime-biometrie in de openbare ruimte zou niet moeten worden toegestaan. De waakhonden, verenigd in de European Data Protection Board (EDPB), wijzen daarmee op de keerzijde van een belangrijke technologische ontwikkeling.
Dit blijkt uit hun reactie op een wetsvoorstel van de Europese Commissie over kunstmatige intelligentie (ai). Ook ai-systemen die burgers indelen op basis van bijvoorbeeld etniciteit, geslacht of seksuele voorkeur zijn volgens de EDPB een gevaar. Behalve de EDPB vindt ook de Europese toezichthouder EDPS dat de risico’s van gezichtsherkenning te groot zijn om de techniek toe te staan in de openbare ruimte. Dit geldt ook voor vergelijkbare technieken, zoals stemherkenning en bewegingsherkenning.
Surveillancemaatschappij
De huidige tekst van het wetsvoorstel maakt het mogelijk dat overheden dit soort technieken inzetten om bijvoorbeeld criminaliteit tegen te gaan. Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens (AP) en vicevoorzitter van de EDPB, heeft geen boodschap aan het belang van misdaadbestrijding. Volgens hem weegt de hulp die deze systemen aan de politie bieden niet op tegen wat hij noemt ‘het opgeven van ieders vrijheid’. Hij verzet zich fel tegen het ophangen van camera’s met gezichtsherkenning op straat of in het openbaar vervoer. Volgens hem brengt ons dat een stap dichter bij een surveillancemaatschappij.
De EDPB en de EDPS pleiten ook voor een verbod op ai die emoties herkent. Aan emotieherkenning kunnen grote risico’s zitten voor de vrijheid van burgers. De AP noemt als voorbeeld werkgevers die werknemers een slechte beoordeling geven als zij te vaak ‘boos’ kijken terwijl ze achter hun computer zitten. Een ander voorbeeld zijn werknemers die moeten glimlachen om toegang tot de werkplek te krijgen. Ook acht men het denkbaar dat de politie uit voorzorg mensen staande houdt die volgens het systeem ‘boos’ of ‘ontevreden’ zijn terwijl zij op straat lopen.
Sleutelen
De privacytoezichthouders van de EU vinden dat de Europese Commissie nog veel aan het wetsvoorstel over ai moet sleutelen. De EDPB en de EDPS menen dat veel regels nog niet voldoende duidelijk zijn. Zo is niet helder welke partij de wet moet gaan handhaven en hoe dat precies in zijn werk gaat. Aanscherping behoeven de regels wanneer er met systemen data worden doorgegeven naar landen buiten de EU. De wet zou ook onvoldoende aansluiten op de Algemene Verordening Gegevensbescherming (AVG). Daarnaast zijn de procedures die bedrijven moeten doorlopen anders dan in de AVG. Dit zorgt voor verwarring en maakt het ingewikkeld voor bedrijven en andere organisaties om aan de wet te voldoen.
