College Rechten van de Mens wil mensenrechtentoets voor algoritmes

Volgens Quirine Eijkman van het College ligt een van de grootste risico’s op het gebied van artificiële intelligentie op het gebied van discriminatie – “we hoeven het niet te hebben over de toeslagenaffaire”. Maar de kennis en het bewustzijn hieromtrent is vaak nog onvoldoende, terwijl AI en algoritmes steeds belangrijker worden in allerlei vormen van besluitvorming: “Het is overal”. Bijvoorbeeld bij werving en selectie. In zijn position paper noemt het College het voorbeeld van een recruitmentsysteem dat gebruikmaakt van het criterium ‘onafgebroken jaren werkervaring’, hetgeen vrouwen vaker benadeelt dan mannen door een gat in het cv in verband met zwangerschap of zorg voor de kinderen. Ook bij de overheid is het bewustzijn nog niet tot in alle lagen doorgedrongen....
mr online
20-01-2023 11:02