Navigate / search

Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy by Cathy O’Neil

Weapons of Math Destruction

Grāmatu nopirku tās nosaukuma dēļ vien. Tas ir iztēli rosinošs. Visiem ir zināms, ka pasauli mēs cenšamies uztvert caur vienādojumu sistēmām un dažādiem modeļiem. Taču katra modeļa pamatā ir pieņēmumi, un no to atbilstības realitātei ir atkarīgi prognožu un rezultātu pareizība. Grāmatu nopirku, bet līdz lasīšanai tiku tikai trīs mēnešu laikā.

Mūsdienu pasaule nav iedomājama bez matemātiskajiem modeļiem, tie tiek izmantoti cilvēka maksātspējas izvērtēšanai, personāla atlasē, apdrošināšanas prēmijas noteikšanā, dažādu iestāžu novērtēšanā un sociālajos mēdijos. Šī joma parasti raisa uzticību, jo kas gan varētu būt pareizāks par vienādojumu sistēmā atrisinātu problēmu? Datu daudzumu šiem modeļiem cilvēki nodrošina paši apzināti vai neapzināti, un standarta ideja ir – jo vairāk datu, jo precīzāks rezultāts. Taču grāmatas autore uzskata, ka viss ir slikti un matemātiskie modeļi patiesībā nodrošina sabiedrības dziļāku noslāņošanos.

Parasti firmas, kas piedāvā dažādas prognozes, savus modeļus tur noslēpumā. Tas ir viņu biznesa noslēpums. Produkta lietotājam lielākoties nav zināmi parametri un algoritmi, pēc kuriem tiek izvērtēta problēma. Autore ir papētījusi dziļāk un nonākusi pie secinājuma, ka liela daļa no šiem modeļiem neatbilst realitātei, un to rezultātu izmantošana rada vairāk problēmu nekā atrisina.

Piemēram, izglītības iestāžu tops vismaz ASV ir totāla fikcija. Tas vairāk izvērtē noteiktas skolas bagātību, aizmirstot, ka par to maksā studenti. Mācību maksa kā faktors nemaz netiek ņemts vērā. Skolas savukārt tiek ierautas nemitīgā cīņā par vietu saraksta galvgalī, palielina savus tēriņus, piesaista finansējumu un palielina mācību maksu.

Interesanti bija lasīt par sistēmu, kura noziedzniekam piešķir recidīva indeksu. Vadoties pēc tā, tiesnesis nosaka soda smagumu. Ideja, protams, šķiet laba un efektīva līdz brīdim, kamēr netiek izvērtēti modeļa parametri. Lielo datu laikmetā modeļa veidotāji ir pamanījušies sabāzt tur iekšā datus, pēc kuriem spriest par cilvēku ir neētiski. Indeksu tieši ietekmē izvērtējamā paziņu loks, radinieku noziegumi un netieši rase. Taču tā kā modelis ir melnā kaste, neviens nekad nav iedziļinājies un izvērtējis no morālā aspekta.

Tāpat grāmata, lai ar’ sarakstīta pirms Klintones un Trampa, vēlēšanu iznākumu dod labu ieskatu mūsdienu ASV vēlēšanu sistēmā. Ja kādam šķiet, ka Tramps ar savu kampaņu ir veicis ko oriģinālu un nebijušu, tad viņi šo lietu nav pamatīgi papētījuši. Arī viņa konkurenti nudien nesēdēja rokas klēpī salikuši un darīja visu, lai ar speciālu datu atlases programmu palīdzību sadalītu vēlētājus mazās mikrogrupās, pie kurām doties ar tām specifisku vēstījumu. Izskatās, ka viņu metode – individuāla smadzeņu skalošana nav nostrādājusi.

Kas tad padara matemātiskos modeļus par Matemātiskajiem iznīcināšanas ieročiem? Galvenie ir trīs faktori – modeļu necaurspīdīgums, mērogs un ietekme. Tie kopā rada bīstamu kokteili, kurš nabadzīgos padara vēl nabadzīgākus, liedzot tiem pieeju lētiem kredītiem un labam darbam. Nezinu kā Latvijā, bet ASV tas ir radījis veselu lērumu ar problēmām. Autore kā risinājumu piedāvā algoritmu rūpīgu auditu, to ietekmes izvērtējumu ne vien no korelācijas, bet arī no morāles un ētikas, lai tie būtu saistīti ar realitāti.

Lieku 8 no 10 ballēm. Interesants ieskats mūsdienu sociālo grupu uzvedības modelēšanas procesa galvenajos trūkumos. Cilvēki jau lielākoties modeļus veido pēc labākās sirdsapziņas, taču lielākoties tie ir vispārīgi korelāciju sieti, kas nepēta dziļākus aspektus, bet paļaujas uz algoritmu vienkāršību. Tiem nav atgriezeniskās saites, un tie balstās uz pagātnes datiem, aizmirstot, ka arī pats modelis ar savu rezultātu atstāj ietekmi. Pats skarbākais ir tas, ka cilvēki akli tic datora izdotajam rezultātam, ng  nemaz nesalīdzinot to ar patieso situāciju.

Leave a comment

name*

email* (not published)

website