AIquote:Amazon heeft de stekker getrokken uit een systeem dat met kunstmatige intelligentie moest helpen bij de zoektocht naar nieuwe medewerkers. Het probleem was dat de sollicitatierobot een voorkeur had voor mannen.
Het team dat zich binnen Amazon specialiseert in kunstmatige intelligentie werkte vanaf 2014 aan het systeem, dat automatisch de cv's van kandidaten doornam, vertellen ingewijden aan persbureau Reuters. Alle kandidaten kregen een aantal sterren, zoals ook bij online recensies gebruikelijk is.
"Iedereen wilde deze heilige graal", vertelt een van de ingewijden. "Ze wilden dat dit een systeem werd waar je honderd cv's in stopt en dat je vervolgens te horen krijgt wie de vijf topkandidaten zijn."
Maar een jaar later ontdekte het team dat het systeem niet bepaald genderneutraal werkte.
Het systeem leerde genderdiscriminatie van Amazon zelf
Het probleem zat in een combinatie van de technologie en de structurele ongelijkheid tussen mannen en vrouwen in de sector.
Kunstmatige intelligentie werkt vaak op basis van patroonherkenning: het systeem bekijkt eerst wat voor mensen het bedrijf in het verleden aannam, vindt daar patronen in en past die vervolgens ook toe op toekomstige kandidaten.
De tien voorafgaande jaren werden vooral mannen aangenomen bij Amazon. Het systeem zette die lijn dus simpelweg voort. Zo kregen kandidaten met in hun cv het woord 'vrouwen-', zoals bijvoorbeeld in 'vrouwenteam', een minpunt.
Amazon heeft wel geprobeerd dit te corrigeren, maar het bleek geen garantie dat discriminerend aannamebeleid voorkomen kon worden. Uiteindelijk geloofde Amazon er niet meer in dat het systeem zou kunnen werken. Vorig jaar werd de stekker er definitief uit getrokken.
Dit is dus wel een prima voorbeeld van een AI die onverwachte dingen gaat doen.quote:
lekkerquote:
AI doet niet aan discriminatie, AI kent geen emotie, AI is de toekomstquote:Op woensdag 10 oktober 2018 12:27 schreef Grrrrrrrr het volgende:
[..]
Dit is dus wel een prima voorbeeld van een AI die onverwachte dingen gaat doen.
Beetje zoals onze eigen Ai(U), doet ook altijd gek.
lolquote:Op woensdag 10 oktober 2018 12:12 schreef Nattekat het volgende:
Amazon heeft de stekker getrokken uit een systeem dat met kunstmatige intelligentie moest helpen bij de zoektocht naar nieuwe medewerkers. Het probleem was dat de sollicitatierobot een voorkeur had voor mannen.
nee, weekend pas weer waarschijnlijkquote:Op woensdag 10 oktober 2018 12:44 schreef Hexxenbiest het volgende:
Hey, naat! Heb je vanavond weer radio? Ik wil nu wel eindelijk eens je stem horen.
Zal eraan denkenquote:Op woensdag 10 oktober 2018 12:47 schreef naatje_1 het volgende:
[..]
nee, weekend pas weer waarschijnlijk
Hij wil wel even een zwoel bericht voor je opnemen in zijn 'studio'quote:Op woensdag 10 oktober 2018 12:44 schreef Hexxenbiest het volgende:
Hey, naat! Heb je vanavond weer radio? Ik wil nu wel eindelijk eens je stem horen.
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |