Koneoppimisalgoritmien tekemä syrjintä rekrytoinnissa

Abstract

Koneoppimisalgoritmien käyttö rekrytoinnissa on yleistynyt viime vuosien aikana. Tekoäly tarjoaa rekrytoinnissa mahdollisuuksia prosessien tehostamiseen ja automatisointiin, mutta tuo samalla mukanaan eettisiä haasteita. Tässä tutkielmassa tarkastellaan koneoppimisalgoritmien käyttöä rekrytoinnissa. Ensimmäisenä tavoitteena on tarkastella sitä, millaisia ongelmia algoritmien käyttö on aiheuttanut rekrytoinnin kontekstissa. Toisena tavoitteena on tarkastella, millaisilla tekniikoilla koneoppimisalgoritmien aiheuttamaa syrjintää voidaan rekrytoinnissa vähentää. Tutkielma toteutettiin kirjallisuuskatsauksena.

Tutkielmassa havaitaan, että koneoppimisalgoritmien käyttö rekrytoinnissa voi aiheuttaa ongelmia koulutusaineiston epäedustavuuden, algoritmien suunnittelun vinoumien sekä päätöksenteon läpinäkymättömyyden takia. Näillä ongelmilla on erityisen merkittäviä vaikutuksia työnhakijoiden esikarsinta- ja valintavaiheissa. Lisäksi tuloksissa havaitaan, että algoritmien tekemää syrjintää voidaan vähentää kolmella keskeisellä tekniikalla: esikäsittelyllä, prosessoinninaikaisella käsittelyllä ja jälkikäsittelyllä. Esikäsittelyssä korostuvat aineiston muokkaus ja sensitiivisten piirteiden poistaminen ja piilottaminen, kun taas prosessoinninaikaisessa käsittelyssä algoritmin toimintalogiikkaa pyritään muokkaamaan oikeudenmukaisempaan suuntaan. Jälkikäsittelyssä joko tasapainotetaan algoritmin tuottamia tuloksia oikeudenmukaisuusmittarien avulla tai lisätään algoritmien selitettävyyttä ja läpinäkyvyyttä.

Syrjinnän vähentämisen tekniikoilla on saatu muokattua algoritmeja oikeudenmukaisempaan suuntaan, mutta tästä huolimatta syrjinnän täydellinen poistaminen algoritmeista on haastavaa ja käytetyt tekniikat voivat vaikuttaa haitallisesti algoritmien ennustetarkkuuteen. Tutkielman tulosten perusteella algoritmien käyttö rekrytoinnin karsinta- ja valintavaiheissa vaatii kriittistä tarkastelua, sillä algoritmien toiminta voi toisintaa tai jopa vahvistaa yhteiskunnallista epätasa-arvoisuutta.