Wie controleert het algoritme? #50dagenAI

Deze week zagen we dat privacy een grondrecht is en dat de AVG je beschermt tegen misbruik van je gegevens. Maar er is nog een grondrecht dat onder druk staat door AI: het recht op gelijke behandeling. Want wat als een algoritme bepaalt of jij wordt uitgenodigd voor een sollicitatiegesprek... en dat algoritme discrimineert?

Mensen hebben vooroordelen. Algoritmes ook.

Solliciteren gaat bijvoorbeeld steeds vaker digitaal. Je uploadt je cv, speelt een online game als voorselectie, of doet een videogesprek dat automatisch wordt geanalyseerd. Handig en snel.

Maar ook risicovol zegt het College voor de Rechten van de Mens.

Een recruiter kan onbewust de voorkeur geven aan kandidaten die op hem lijken. Dat weten we. Maar een algoritme kan precies hetzelfde doen. Als het systeem is getraind op data uit het verleden - waarin bijvoorbeeld vooral mannen werden aangenomen als programmeur - dan leert het algoritme dat mannen "betere" kandidaten zijn. Het resultaat: vrouwen komen niet eens door de voorselectie.

Over het college

Het College voor de Rechten van de Mens houdt toezicht op gelijke behandeling in Nederland. Ook als een algoritme de beslissing neemt.

Ethiek

Deze lesstof komt uit hoofdstuk 7 van de cursus AI & Ethiek.

Als je al een account hebt bij De Nationale AI Cursus kun je die ook gratis volgen.