De Nederlandse Autoriteit Persoonsgegevens (AP) heeft minister Hoekstra van Buitenlandse Zaken opgeroepen om verantwoording af te leggen over het gebruik van algoritmen bij de beoordeling van visumaanvragen. De software, genaamd ‘Informatie Ondersteund Beslissen’, beveelt ambtenaren aan of ze een aanvraag kort of intensief moeten bestuderen op basis van onder meer nationaliteit, geslacht, leeftijd en plaats van aanvraag. Het algoritme kan leiden tot discriminatie en de functionaris gegevensbescherming van Buitenlandse Zaken adviseerde vorig jaar al om te stoppen met het profileren van visumaanvragers. De AP wil nu meer informatie over de proportionaliteit van deze gegevenswerking.
Het gebruik van algoritmen die persoonsgegevens verwerken bij de beoordeling van visumaanvragen kan ernstige gevolgen hebben voor de privacy van burgers. Het algoritme dat in dit artikel wordt beschreven, kan leiden tot discriminatie op basis van nationaliteit, geslacht, leeftijd en plaats van aanvraag. Dit kan leiden tot oneerlijke behandeling van bepaalde groepen mensen en inbreuk maken op hun privacy. Bovendien kan het profileren van visumaanvragers door middel van algoritmen leiden tot onrechtmatige verwerking van persoonsgegevens, wat in strijd is met de privacywetgeving. Het is daarom belangrijk dat er zorgvuldig wordt omgegaan met persoonsgegevens bij visumaanvragen om de privacy van burgers te waarborgen.
De grootste bezwaren tegen het profileren van mensen en de inbreuk op privacy zijn als volgt:
- Discriminatie: Profileren kan leiden tot discriminatie van bepaalde groepen mensen op basis van persoonlijke kenmerken zoals leeftijd, geslacht, nationaliteit of etniciteit. Dit kan leiden tot onrechtvaardige behandeling van deze groepen.
- Privacyinbreuk: Bij het profileren worden vaak grote hoeveelheden persoonlijke gegevens verzameld en verwerkt. Dit kan leiden tot inbreuk op de privacy van de betrokken personen, vooral als deze gegevens worden gedeeld met derde partijen of voor andere doeleinden worden gebruikt dan waarvoor ze zijn verzameld.
- Foutieve besluitvorming: Profileren kan leiden tot foutieve besluitvorming op basis van vooroordelen of onjuiste informatie. Dit kan leiden tot onrechtvaardige behandeling van individuen en groepen.
- Gebrek aan transparantie en controle: Bij profiling worden vaak complexe algoritmen en technologieën gebruikt, wat het voor mensen moeilijk kan maken om te begrijpen hoe de beslissingen over hen worden genomen. Dit gebrek aan transparantie kan het voor mensen ook moeilijk maken om bezwaar te maken tegen beslissingen die hen nadelig beïnvloeden.
- Mogelijk misbruik van macht: Het profileren van mensen kan de macht van degenen die deze technologieën gebruiken vergroten, vooral als deze technologieën worden gebruikt door overheidsinstanties of grote bedrijven. Dit kan leiden tot misbruik van deze macht en inbreuk maken op de grondrechten van burgers.