Tämä on hyvä kirja siitä miten tekoälyjärjestelmiä voidaan käyttää hyvinkin väärin. Tämä on myös hyvää luettavaa niille jotka haluavat tietää tällaisten järjestelmien vaikutuksesta nykyaikana meidän elämiimme.
Kirjan nimi on Cathy O’Neilin oma termi, Weapons of Math Destruction (WMD) joka juontaa juurensa Weapons of Mass Destructionista eli joukkotuhoaseista. Termi on sinänsä hyvin kuvaava järjestelmistä jotka pohjautuvat tilastolliseen mallinnukseen mutta niitä käytetään väärin ja lopputulos on jotain aivan muuta kuin mitä pitäisi.
Tilastomatematiikan tulkinta ei ole niin helppoa kuin luulisi ja kirjoittaja kaivaa ansiokkaasti esiin tilanteita missä AI:n hyödyntäjät ajautuvat täysin harhaan kun eivät oikeasti tiedä syy-seuraussuhdetta tapahtumien välillä. Näissä käy helposti myös niin että järjestelmä itse vielä vahvistaa annettua väärää olettamaa. Toisaalta kirjassa käydään läpi myös järjestelmiä jotka tarkoituksella iskevät kohteiden heikkoihin kohtiin esimerkiksi mielipidevaikuttamisessa tai markkinoinnissa.
Yksi esimerkki O’Neilillä on USA:n koulujen luokitusjärjestelmä joka kehitettiin 90-luvulla erään sanomalehden toimesta. Lähtökohtaisesti jo tämän suunnittelu meni väärin, sillä se oli pakko rakentaa niin että arvoistetuimmat koulut, kuten Harward ja MIT täytyi saada kärkeen tuloksissa, muutenhan kukaan ei ottaisi luokittelua vakavasti. Koulut ryhtyivät kuitenkin parantamaan omia sijoituksiaan pelkästään tuijottamalla vaadittuja parametrejä, mikä johti taas järjettömään lopputulokseen missä opiskelijat eivät olleet voittajia.
Muitakin esimerkkejä kirjassa on, kuten kohdennettu mainonta missä käytetään hyväksi kaikkein haavoittuvampia ihmisiä, esimerkiksi vähävaraisia joille tarjotaan korkeakorkoisia pikalainoja. Poliisin käyttämät mallinnusmenetelmät taas sorsivat pahasti köyhiä alueita sillä partiointi keskitetään niille seuduille minne odotetaan eniten rikoksia. Tämä järjestelmä ruokkii näin myös itse itseään sillä näillä alueilla luonnollisesti tehdään enemmän pidätyksiä, joka taas vahvistaa alueen merkitystä järjestelmässä. Yksi iso puutos käytössä olevassa järjestelmässä on se että vaikeasti mitattavaa luottamusta kansalaisten ja poliisin välillä ei voi järjestelmään syöttää, joten siihen ei kannata myöskään silloin panostaa.
Lopussa päästään tietysti siihen kuumaan aiheeseen: Facebook. Facebookin työtekijät tekivät tutkimusmielessä testejä miten voidaan vaikuttaa äänestysinnokkuuteen ja mielipiteisiin näyttämällä uutisvirrassa erilaisia asioita, sekä positiivisia tai negatiivisia, vai ovatko kaverit klikanneet “Äänestin” -nappia joka heillä oli esillä testissä käytössä vaalien aikaan. Lopputulos oli että näillä pystyttiin vaikuttamaan tuloksiin. Tässä 2016 julkaistussa kirjassa ei vielä oltu nähty mitä katastrofaalisia seurauksia on siitä kun näitä FB:n algoritmeja käytetään hyväksi ulkopuolelta. Lopputuloksena Venäjän avustuksella Valkoisessa Talossa istui neljän vuoden ajan kävelevä katastrofi, Donald Trump.