Os Uma
Piše: Barbara Kovačević

Edward Snowden je 2013., neposredno prije bijega iz SAD-a, objavio niz tajnih dokumenata američke vladine obavještajne agencije NSA (National Security Agency) među kojima su se nalazili i detalji programa naziva Skynet, usmjerenog na otkrivanje potencijalnih terorista kroz korištenje meta-podataka i algoritama. No, čini se da ovaj program i nije baš u potpunosti usmjeren progonu i hvatanju osoba koje predstavljaju stvarnu opasnost nego ugrožava i na tisuće sasvim nevinih osoba.

Ukoliko vam se naziv programa učinio poznatim, to je stoga jer je takav naziv imao i računalni sustav u poznatoj filmskoj franšizi „Terminator“. No, razlike između ta dva programa su velike. Naime, u filmovima je Skynet sustav računala koji se koristi za kontrolu vojnih strojeva čineći ljude suvišnima u odnosu na odabir neprijateljskih meta i izvršavanja napada. Nakon što Skynet ostvari potpunu autonomnu kontrolu nad vojnim strojevima, on razvija vlastitu svijest te kasnije uzrokuje nuklearni rat koji s lica zemlje briše veći dio populacije. Dakle, to je film.

NSA-in Skynet nema svijest, no ima sustav „zatvorene petlje“ koji odabire terorističke ciljeve i eliminira ih. Ono što je sigurno poznato je to da Skynet prikuplja ogromnu količinu podataka o milijunima ljudi (u Pakistanu) na osnovu čega „odlučuje“ tko od njih jest, a tko nije “terorist”. U stvari, ovaj program odabire potencijalne teroriste otprilike na jednak način na koji Google ili Facebook svojim oglasima ciljaju na potencijalne kupce. Primjerice, Facebook će analizirati vaše lajkove, fotografije, objave i slično kako bi odredio bi li vam se neki proizvod svidio nakon čega će u vašim novostima početi reklamirati taj proizvod (kao što to uostalom već čini).

Skynet analizira lokacije, kretanja, komunikaciju i slične podatke o osobi te na osnovu toga određuje je li riječ o potencijalnom teroristu. Primjerice, kod obrade podataka poziva ostvarenih mobitelom, Skynet prikuplja informacije o lokaciji, vremenu trajanja poziva, biranom broju i ostalom na osnovu čega stvara profil osobe. No, ako nadzirana osoba isključi mobitel ili promijeni SIM karticu, to se smatra pokušajem izbjegavanja nadzora.

Skynetov program vrši selekciju na temelju učitanih profila „stvarnih terorista“ te pronalazi osobe sa sličnim obrascima ponašanja. No, Patrick Ball, izvršni direktor Grupe za analizu podataka o ljudskim pravima, tvrdi da se uz NSA-in program vežu dva velika problema: prvo, Skynet nije programiran na prikladan način na koji bi se stvarni teroristi mogli otkriti, te, drugo, sustav „zatvorene petlje“ od Skyneta stvara suca, porotu i krvnika, odnosno, omogućuje mu ubijanje ljudi na osnovu vlastite odluke.

Podaci govore da su od 2004. do danas bespilotne letjelice u Pakistanu ubile gotovo 4.000 osoba koje je američka vlada okarakterizirala kao ekstremiste od kojih je vjerojatno većinu ovaj program, temeljen na pretpostavci da se ponašanje terorista razlikuje od ponašanja prosječne osobe, pogrešno obilježio kao teroriste.

No, ako i pretpostavimo da Skynet nikada nije eliminirao nevinu osobu, što doista djeluje nemoguće, već sama pomisao na ideju o prepuštanju stroju da odlučuje o takvim stvarima djeluje zastrašujuće. Uz to, NSA i dalje razvija slične programe kao što je to MonsterMind, sustav računalne obrane koji odmah i sasvim autonomno neutralizira internetske napade, a može pokrenuti i protunapad.

Svi smo svjesni činjenice da algoritmi sve više upravljaju našim životima. Ono na što ovdje pokušavamo skrenuti pažnju jest taj mali korak koji Skynetovu „logiku“ pri otkrivanju terorista može usmjeriti na druge zemlje kako bi se njime, recimo, otkrivali raspačivači droge ili prosvjednici ili samo ljudi koji se ne slažu s mišljenjem koje prevladava u zajednici ili koje nameće država. Ubijanje ljudi na nekom drugom kontinentu, „daleko“ od nas možda djeluje kao nešto što se nas ne tiče, no možemo li doista biti sigurni u to da nas nikakav sličan program već ne nadzire?