Hoe zit het met het wetsvoorstel over kunstmatige intelligentie?

De afgelopen weken zijn we iets meer te weten gekomen over de 'AI Act'. Zo waren we eind mei aanwezig bij de CPDP in Brussel en vlak daarna bij een bijeenkomst bij VNO NCW in Den Haag. 

De AI Act is een Europese wet over de toepassing van kunstmatige intelligentie die nu in de maak is. Deze wet moet gaan bepalen wie wanneer en waarvoor verantwoordelijk is en behandelt de risico's die komen kijken bij de inzet van kunstmatige intelligentie. Een van de onderwerpen die in de AI Act aan bod komt is biometrische surveillance. Ben je benieuwd wat dat betekent en welke campagne wij ondersteunen? Lees dan verder.

Biometrische surveillance

Biometrische surveillance betekent dat je in de gaten wordt gehouden op grond van je uiterlijke kenmerken. Dat kan bijvoorbeeld via camera's op straat die je gezicht herkennen. Onder het mom van veiligheid willen overheden en bedrijven hiermee bepaald gedrag van mensen voorspellen, bijvoorbeeld om criminaliteit te voorkomen. Hoe ze dat doen, dat is onduidelijk en niet goed onderzocht. Ook worden camerabeelden opgeslagen om ze later terug te kijken en achteraf mensen te herkennen.

Dit betekent dus dat je bij voorbaat verdacht bent en ook altijd nog achteraf ergens van kan worden beschuldigd. Dit druist in tegen belangrijke principes in het recht. Omdat deze praktijk onze fundamentele rechten schendt is, is het belangrijk dat er duidelijke afspraken komen over het gebruik van kunstmatige intelligentie in de publieke ruimte. Vandaar dus die AI Act. 

Vorige week schreven we al over hoe de gemeente burgers volgt via het wifi-signaal van de mobiele telefoon. Biometrische surveillance gaat nog een stapje verder.

Gezichtsherkenning en andere biometrische surveillance

Je kunt iemand herkennen aan het gezicht, maar ook aan hoe iemand loopt of aan andere kenmerken. Deze gegevens worden natuurlijk pas herkend als ze al ergens bekend zijn. Dat houdt in dat de gegevens in een database staan. Dit is een groot register waar de computer doorheen bladert. Er kunnen veel verschillende gegevens in dat register staan. Niet alleen je adres en je BSN, maar ook een foto, een scan van je ogen, je tred, je stem en je DNA. 

Onzeker

Het is voor de meeste mensen niet duidelijk of ze in zo'n database staan en met welke kenmerken. Ook is niet per se bekend bij de overheden of bedrijven die dit middel inzetten waarom iemand erin staat. En hoeveel van deze registers bestaan er eigenlijk op dit moment?

Hieruit blijkt natuurlijk al de eventuele ongelijkheid en de rechtsonzekerheid. Niet iedereen staat in alle registers en het is niet helemaal duidelijk waarom je er wel of niet in zou staan. Ook kan het zijn dat je niet uit het register bent gehaald, terwijl dat eigenlijk zou moeten. En als je er niet vanaf weet, hoe kun je er dan bezwaar tegen maken? Want misschien is het wel onterecht dat je in zo'n database staat. 

Niet overtuigd

Een voorbeeld: als de overheid op basis van bepaalde kenmerken door een algoritme een besluit laat maken, dan moet de overheid je kunnen vertellen waarom dit besluit zo is genomen. Tegen besluiten van de overheid moet je je immers kunnen verzetten. De overheid heeft ons nog niet overtuigd dat ze hiertoe in staat is. Want helaas is het niet moeilijk om een situatie te bedenken waar het verschrikkelijk mis ging. 

Er vinden daarnaast op grote schaal datalekken plaats waaruit blijkt dat de gegevens in ieder geval niet goed genoeg beveiligd worden. Ook wordt gesproken van een black box: dat betekent dat niet duidelijk is hoe een computer tot een bepaald besluit is gekomen. Dat komt omdat het systeem niet transparant is en de gebruiker ervan onvoldoende kennis heeft. Bovendien is niet voldoende bewezen dat deze algoritme-systemen goed werken; ze worden dus eigenlijk al ingezet voordat er goed is getest en over de gevolgen is nagedacht.

Reclaim your face

Om deze en nog veel meer redenen ondersteunt Freedom de campagne 'Reclaim your face'. Deze campagne is in november 2020 gestart. Verschillende burgerrechtenorganisaties in Europa zijn hierbij betrokken. Vanuit Nederland is dat Bits of Freedom (BOF).

BOF schreef kort geleden dat inmiddels ook een aantal Euro-parlementariërs zich nu drukmaken over biometrische surveillance. Dit komt onder andere dankzij deze campagne.

Wil je de campagne ondersteunen? Ga dan naar de website en vul je gegevens in. Let op: je moet je naam, je adres en je nationaliteit invullen. Dat komt omdat dit een officieel Europees burgerinitiatief is.

Je kunt hier het privacybeleid voor deze campagne lezen. Deze tekst is in het Engels, daarom hebben we de tekst in het Nederlands voor je samengevat.