Rechtenverdediger Claire Hédon roept op om non-discriminatie weer centraal te stellen in de toekomstige verordening van de Europese Commissie over kunstmatige intelligentie. Deze nieuwe Europese verordening heeft tot doel kunstmatige-intelligentiesystemen te reguleren en werd in april 2021 voorgesteld.

Dit stuk is een vertaling van een Franstalig artikel.

Mensen gediscrimineerd door algoritmen

De verdediger van de mensenrechten dringt aan op het recht op non-discriminatie in alle omstandigheden en op gewaarborgde toegang tot rechten voor iedereen. Zij beroept zich op verschillende elementen om de discriminatie aan de kaak te stellen waarvan volgens haar sommigen reeds het slachtoffer zijn geworden door de algoritmen. The Defender heeft het over aanwerving en spreekt van gendervooroordelen in verschillende algoritmen die worden gebruikt om cv's te sorteren. Zij noemt het feit dat zij de neiging hadden om systematisch sollicitaties van vrouwen af te wijzen.

Algoritmen hebben controles gericht op bepaalde personen op grond van hun woonplaats en burgerlijke staat

Zij zegt dat deze misstanden ook in andere sectoren zijn geconstateerd. In het kader van de bestrijding van sociale zekerheidsfraude bekritiseerde zij bijvoorbeeld het feit dat datamining-algoritmen ertoe hebben geleid dat de controles op bepaalde personen zijn geconcentreerd vanwege hun woonplaats en gezinssituatie. Er zij op gewezen dat deze werkwijze lijkt op het beginsel van de "digitale tweeling", dat in de marketingsector gangbaar is om personen op te sporen die waarschijnlijk dezelfde producten zullen aanschaffen, maar dit vormt geen discriminatie of vooroordeel.

De verdediger van de mensenrechten is van mening dat er een risico bestaat op automatisering van discriminatie. "De vooruitgang die door deze technologieën [van kunstmatige intelligentie] mogelijk wordt gemaakt, mag niet ten koste gaan van een deel van de bevolking, noch ten koste gaan van een veralgemeende bewaking", waarschuwt zij. Zij herinnert aan de verslagen die de verdediger van de rechten over deze onderwerpen heeft uitgebracht, Algoritmen: het voorkomen van de automatisering van discriminatie in 2020 en Biometrische technologieën: de dwingende eerbiediging van de grondrechten in 2021.

Een advies opgesteld in samenwerking met Equinet, het Europees netwerk van organisaties voor gelijke kansen

De verdediger van de mensenrechten publiceert vandaag een advies getiteld "Voor een Europese AI die het non-discriminatiebeginsel beschermt en waarborgt", dat is opgesteld samen met Equinet, het Europese netwerk van organisaties voor gelijke kansen, waarvan zij lid is. De aanbevelingen van dit advies onderstrepen de prioriteit van de bestrijding van algoritmische discriminatie en van de inschakeling van de Europese instanties voor gelijke behandeling in dit verband.

In alle Europese landen moeten klachtenregelingen voor particulieren worden ingesteld

Bovendien wil de verdediger van de rechten dat in alle Europese landen klachtenmechanismen worden ingesteld voor de gedupeerden. Hierdoor zullen zij kunnen reageren op schendingen van de beginselen van gelijkheid en non-discriminatie of schendingen van andere grondrechten wanneer deze het gevolg zijn van het gebruik van kunstmatige-intelligentiesystemen. Ook moeten de effecten van kunstmatige intelligentiesystemen op de gelijkheid regelmatig worden beoordeeld.

Alle ontwikkelaars en gebruikers van kunstmatige intelligentie moeten ook bindende gelijkheidsverplichtingen krijgen. De mensenrechtenverdediger eist dat de nieuwe nationale toezichthoudende autoriteiten voor kunstmatige-intelligentiesystemen overleg plegen met organen voor gelijke behandeling en instellingen die verantwoordelijk zijn voor de grondrechten.

Algoritmen vormen een risico voor de grondrechten

Ten slotte wijst de mensenrechtenverdediger erop dat digitale instrumenten vaak op algoritmen zijn gebaseerd zonder dat het grote publiek daar altijd van op de hoogte is of over wordt geïnformeerd. Deze algoritmen worden gebruikt op gebieden zoals de toegang tot sociale uitkeringen, politie, justitie of human resources. "Deze steeds verfijndere algoritmen zijn een bron van vooruitgang, maar ze houden ook risico's in voor de grondrechten", waarschuwt de mensenrechtenverdediger.