Facebook post by Vehkeilijat

Matikka voi olla joukkotuhoase Maailman johtaviin data-aktivisteihin kuuluva tohtori Cathy O’Neil on tutkinut vuosikymmenten ajan suurten aineistomassojen käyttöä automatisoidussa päätöksenteossa. Kirjassaan Matikkatuhoaseet (eng. Weapons of Math Destruction) O’Neil rinnastaa jotkin algoritmien voimalla käyvät päätöksentekojärjestelmät joukkotuhoaseisiin. Väärin rakennetut, läpinäkymättömät koneavusteiset päätöksentekojärjestelmät voivat tuhota ihmisten elämiä hyvin laajassa mittakaavassa, ja tämä tuho tapahtuu huomaamattamme aivan nenämme edessä. O’Neilin kirjaa on kuvailtu “silmiä avaavaksi, häiritseväksi ja erittäin tärkeäksi jokaisen ihmisen ymmärtää". Automatisoituja päätöksentekojärjestelmiä käytetään USAssa muun muassa vakuutusyhtiöiden sekä tuomioistuimien riskiarvioinnissa. Algoritmien tekemä tulkinta tai riskiarvio määrittelee, kuinka suuri vakuutusmaksu on tai kuinka pitkän vankilatuomion henkilö joutuu rikoksestaan kärsimään. Ongelmana O’Neilin mukaan ei ole niinkään päätöksenteon osien automatisointi, kuin se, että useat algoritmit ovat ihmisten niihin tiedostamattaan koodaamien ennakkoluulojen värittämiä. Näin ollen yhden ihmisen alitajuiset ennakkoluulot saattavat päätyä päättämään satojen tuhansien henkilöiden kohtalosta. O’Neil saapuu esitelmöimään Suomen Turkuun toukokuussa.