Os Uma
Piše: Barbara Kovačević

Alan Kay, računalni znanstvenik poznat po svom radu na objektno orijentiranom programiranju i dizajnu korisničkog sučelja, jednom je prilikom rekao: „Najbolji način predviđanja budućnosti jest da ju izmislimo.“ Ipak, ono što bismo najradije željeli jest predvidjeti budućnost kako bismo mogli spriječiti neke njezine segmente. Ovom idejom se zasigurno vodio i scenarist popularnog filma „Specijalni izvještaj“ u kojem se zločini sprječavaju prije no što se dogode.

Što Alan Kay misli o tom scenariju, ne znamo, ali Specijalni izvještaj je postao kultni film među dizajnerima korisničkih računalnih sučelja i to zbog načina upravljanja računalnim podacima na velikim prozirnim zaslonima koji djeluju kao da jednostavno „vise u zraku“. Ovakva tehnologija nam još uvijek nije dostupna, iako je samo pitanje vremena kada će se naći u općoj uporabi. No, najzanimljiviji dio filma je onaj koji se odnosi na predviđanje budućnosti.

Da, mnogi bi željeli da postoji algoritam koji će predvidjeti zločin. S obzirom da to očito žele i vlasti, neki od računalnih stručnjaka su se posvetili izradi takvog programa.

Predviđanje zločina se počelo koristiti u SAD-u još početkom 90-ih godina prošlog stoljeća kad se u New Yorku za određivanje povećanih stopa zločina na nekim stanicama podzemne željeznice, kao i nekih gradskih četvrti, počela koristiti statistika. Danas je u upotrebi mnogo sofisticiraniji softver koji se koristi u mnogim američkim gradovima. Njegov autor je Richard Berk,  profesor kriminologije i statistike na Sveučilištu Pennsylvania koji je tijekom protekle godine u Norveškoj testirao „napredniju“ inačicu programa kojim se pokušava predvidjeti hoće li novorođeno dijete u budućnosti počiniti zločin.

Norveška je zemlja čija vlada prikuplja ogromne količine podataka o svojim građanima i povezuje ih u jednu identifikacijsku datoteku. Berkov rad i cilj su usmjereni ka analizi podataka koji se odnose na djecu i njihove roditelje kako bi odredio hoće li neko dijete prije svoje 18. godine počiniti zločin. Naravno, djeca koja se rađaju su nevina i nisu još prekršila nikakav zakon, no Berkovim eksperimentom bi se neka od njih unaprijed svrstala u skupinu „vjerojatnih kriminalaca“ i to na temelju uvjeta i okolnosti rođenja. Ova ideja i njezina realizacija bi tako zaista mogli postati uvodom u stvarni Specijalni izvještaj: ljudi bi bili osuđeni za zločin kojeg još nisu počinili.

Prije rada u Norveškoj, Berk je 2006. surađivao s Odjelom za uvjetne otpuste odraslih u Philadelphiji, gradu koji je u to vrijeme imao mali proračun, a visoku stopu ubojstava. Naime, postojao je veliki broj programa usmjerenih na uvjetne otpuste kojima se pratilo mnogo bivših kriminalaca. Grad je želio smanjiti troškove i otkriti koje od njih je doista potrebno „imati na oku“. Berk je za grad besplatno osmislio sistem predviđanja vjerojatnosti ponovnog počinjenja kriminalnih djela za kojeg kaže da griješi u rasponu od 29% do 38% što smatra ne toliko važnim koliko postotak točnih predviđanja na koje bi se trebalo usredotočiti.

„Svoje stajalište temeljim na tome da je opasnije pustiti na slobodu Darth Vadera nego zatočiti Lukea Skywalkera,“ izjavio je Berk.

Berkov rad se temelji na strojnom učenju što uključuje znanstveno dizajnirane algoritme koji računalo usmjeravaju na otkrivanje obrazaca u velikim skupovima podataka. Nakon što se ti opetovani uzorci otkriju, predviđaju se ishodi. Primjerice, američki maloprodajni gigant Target je prikupljao podatke o kupovnim navikama svojih kupaca kako bi, pomoću strojnog učenja, predvidio njihove buduće kupnje. Točnost predviđanja ljudskog ponašanja ponajviše ovisi o količini kontekstualnih podataka. Target je koristio metapodatke iz trgovačkih rutina dok Berk u predviđanju kriminala koristi prediktore uobičajene za kriminal i demografiju: broj prethodnih uhićenja, starost u vrijeme prvog uhićenja, vrstu kaznenog djela, količinu prethodnih osuda, radni učinak u zatvoru, blizinu susjedstva s povećanom stopom kriminala, IQ i spol osobe.

Pravdajući svoj rad, Richard Berk kaže da se takvi algoritmi mogu koristiti u razne svrhe, kao u primjeru Targeta, ali i pri predviđanju budućih beskućnika, određivanja poslodavaca koji će (ili neće) kršiti prava radnika i slično. Ipak, Berkov model ima dvije mane: prvo, relativno nisku stopu uspješnog određivanja visokorizičnih osoba u odnosu na one koje ne predstavljaju opasnost (što priznaje i sâm Berk) te drugo, postojanje slobodne volje prema kojoj osoba može odlučiti ne počiniti zločin. Na sličan problem smo pokušali ukazati i u jednom našem prethodnom tekstu, NSA-in program Skynet ugrožava nevine ljude koji se također temelji na algoritmu i predviđanju budućih radnji.

Pravosudni sustavi većine zemalja se temelje na vjerojatnosti ponovnog počinjenja zločina, odnosno, pri određivanju kazne i/ili puštanja na slobodu se pokušava predvidjeti predstavlja li osoba prijetnju za zajednicu ili ne. Dapače, australski premijer Malcolm Turnbull je nedavno od pravosudnih tijela zatražio izradu novog zakona kojim će se „visokorizični“ prekršitelji osuđeni za terorizam moći zadržati u zatvoru i nakon odsluženja kazne, temeljeno na prošlim aktivnostima i ponašanju osobe.

Odlučivanje o tome hoće li i koliko dugo netko biti u zatvoru na temelju nečega što se još nije ni dogodilo zahtjeva promjenu cjelokupnog razmišljanja, ali i pravosudne prakse. I što se u tom slučaju događa s pretpostavkom da je osoba nevina dok joj se ne dokaže krivica? Kao što je maloprije spomenuto, ne postoji li i pojam koji se zove „slobodna volja“? A uzevši u obzir cjelokupni rad i rezultate Richarda Berka, je li sustav predviđanja budućih kriminalnih radnji, pogotovo kad su djeca i bebe u pitanju, previše manjkav da bi se našao u praktičnoj uporabi? Nažalost, nas se rijetko ili uopće ne pita, osim da na gotovo svim mjestima i u svakoj prilici pružimo što više podataka o sebi kako bi se stvorila baza podataka koja bi nas jednog dana mogla doći glave.