4. mail kell 11.00 kaitseb Modar Sulaimani doktoritööd „From Data to Fair Decisions: On Ensuring Fairness in Machine Learning Models“ („Andmetest õiglaste otsusteni: õigluse tagamine masinõppemudelites“).
Juhendaja
lektor Kallol Roy, Tartu Ülikool
Oponendid
prof Catuscia Palamidessi, National Institute for Research in Digital Science and Technology (Prantsusmaa)
kaasprof Özlem Özgöbek, Norwegian University of Science and Technology (Norra)
Kokkuvõte
Masinõppesüsteemid on märkamatult saanud paljude igapäevaotsuste lahutamatuks osaks. Näiteks otsustatakse nende abil, keda kutsuda töövestlusele, milline laenutaotlus heaks kiita ja millist meditsiinilist järelravi soovitada. Need süsteemid suudavad töödelda tohutuid andmemahte ja teha otsuseid mahus, millega ükski inimene ei suudaks konkureerida. Sellise tõhususega kaasnevad siiski ka riskid: kui alusandmed peegeldavad levinud ühiskondlikke eelarvamusi, võivad nende abil loodud mudelid seada teatud isikuid või rühmi süstemaatiliselt ebasoodsamasse olukorda nende soo, vanuse või etnilise päritolu tõttu. Väitekirja autor esitab keerulise, ent otsekohese küsimuse: kuidas luua mudeleid, mis jäävad täpseks, kuid kohtlevad erinevaid rühmi õiglasemalt?
Autor läheneb sellele probleemile kolmest üksteist täiendavast vaatenurgast. Esiteks tutvustatakse meetodit The Fairness Stitch (õigluse kiht), mis sekkub sügavate närvivõrkude sisemistesse kihtidesse, selle asemel et piirduda üksnes lõpliku väljundkihi kohandamisega. Sellisel moel sisemist esitusviisi muutes on võimalik märkimisväärselt vähendada varjatud kallutatust, säilitades samal ajal mõistliku ennustustäpsuse. Teiseks pakub töö autor välja rühmapõhise treenimisskeemi, mis määrab eri demograafiliste rühmade puhul vigadele erinevad karistused, julgustades mudelit toimima usaldusväärselt mitte ainult enamusrühmas, vaid ka rühmades, mis on andmetes tavaliselt alaesindatud või süsteemselt ebasoodsas olukorras. Kolmandaks arendatakse väitekirjas graafipõhist meetodit ebausaldusväärsete treeningsiltide tuvastamiseks ja parandamiseks, pöörates erilist tähelepanu olukordadele, kus mõned rühmad on teistest rohkem mõjutatud suuremast müratasemest või enam kallutatutud märgistamisprotsessist.
Koos näitavad need kolm uurimissuunda, et õiglus ei pea olema pelgalt tagantjärele lisatud kaalutlus. Sekkudes mudeli arhitektuuri, treeningueesmärki ja andmete kvaliteeti, on võimalik luua klassifitseerijaid, mis on rühmade lõikes tasakaalustatumad, kuid toimivad üldiselt siiski hästi. Saadud tulemused pakuvad praktilisi tööriistu ja disainipõhimõtteid organisatsioonidele, kus soovitakse kasutada masinõpet vastutustundlikult suurt mõju omavate otsuste tegemisel.
