Koneoppiminen ja algoritminen syrjintä luottopäätöksissä: mittarit ja lievennyskeinot

Abstract

Tässä kandidaatintutkielmassa kerrotaan, miten koneoppimista (engl. machine learning) hyödyntävät luottopäätösmallit eroavat perinteisistä pisteytysmalleista ja millaisia reiluus-, syrjintä- ja selitettävyyskysymyksiä ne nostavat esiin. Työ toteutetaan kirjallisuuskatsauksena. Tutkielmassa esille tulleiden tulosten mukaan modernit mallit hyödyntävät laajempaa ja monipuolisempaa piirrejoukkoa ja voivat parantaa erottelukykyä, mutta samalla ne altistuvat välilliselle syrjinnälle, jolloin näennäisellä tavalla harmittomat piirteet heijastavat ja välittävät tietoa suojatuista ominaisuuksista. Reiluutta voidaan tarkastella ryhmä- ja yksilötasoilla, eikä keskeisiä mittareita (muun muassa tilastollinen pariteetti, yhtäläinen mahdollisuus ja kalibrointi) voida useimmiten optimoida samanaikaisesti. Lievennyskeinoista hahmottuu kolmiportainen kokonaisuus, joka koostuu esikäsittelystä (tasapainotus ja välillisyyttä vähentävät muunnokset), mallinnusvaiheesta (reiluusrajoitteet, sanktiointi ja vastamallinnus) ja jälkikäsittelystä (kynnys- ja pistekorjaukset sekä kalibrointi). Lisäksi tarvitaan elinkaaren kattava hallintamalli. Tähän kuuluvat dokumentaatio, aukoton kirjausketju, tapauskohtaiset selitteet ja ryhmäkohtainen seuranta, jotta reiluustavoitteet voivat säilyä myös tuotannossa. Empiirinen näyttö viittaa siis siihen, että yksilötason informatiivisuuden vahvistaminen (heikot signaalit ja eettisesti hyväksyttävä vaihtoehtoinen data) voi yhtä aikaa lisätä inkluusiota ja pienentää oletusriskiä, mikä pehmentää reiluus-tarkkuus-tuotto-kompromissisettiä. Tutkielma päättyy käytännön suosituksiin kahden tason valvonnasta (ryhmä- ja yksilöreiluus) sekä reiluusvalintojen kattavasta, monipuolisesta ja läpinäkyvästä dokumentoinnista.