NSA-in program Skynet ugrožava nevine ljude

Os Uma
Piše: Barbara Kovačević

Edward Snowden je 2013., neposredno prije bijega iz SAD-a, objavio niz tajnih dokumenata američke vladine obavještajne agencije NSA (National Security Agency) među kojima su se nalazili i detalji programa naziva Skynet, usmjerenog na otkrivanje potencijalnih terorista kroz korištenje meta-podataka i algoritama. No, čini se da ovaj program i nije baš u potpunosti usmjeren progonu i hvatanju osoba koje predstavljaju stvarnu opasnost nego ugrožava i na tisuće sasvim nevinih osoba.

Ukoliko vam se naziv programa učinio poznatim, to je stoga jer je takav naziv imao i računalni sustav u poznatoj filmskoj franšizi „Terminator“. No, razlike između ta dva programa su velike. Naime, u filmovima je Skynet sustav računala koji se koristi za kontrolu vojnih strojeva čineći ljude suvišnima u odnosu na odabir neprijateljskih meta i izvršavanja napada. Nakon što Skynet ostvari potpunu autonomnu kontrolu nad vojnim strojevima, on razvija vlastitu svijest te kasnije uzrokuje nuklearni rat koji s lica zemlje briše veći dio populacije. Dakle, to je film.

NSA-in Skynet nema svijest, no ima sustav „zatvorene petlje“ koji odabire terorističke ciljeve i eliminira ih. Ono što je sigurno poznato je to da Skynet prikuplja ogromnu količinu podataka o milijunima ljudi (u Pakistanu) na osnovu čega „odlučuje“ tko od njih jest, a tko nije “terorist”. U stvari, ovaj program odabire potencijalne teroriste otprilike na jednak način na koji Google ili Facebook svojim oglasima ciljaju na potencijalne kupce. Primjerice, Facebook će analizirati vaše „lajkove“, fotografije, objave i slično kako bi odredio bi li vam se neki proizvod svidio nakon čega će u vašim novostima početi reklamirati taj proizvod.

Skynet program os uma

Skynet analizira lokacije, kretanja, komunikaciju i slične podatke o osobi te na osnovu toga određuje je li riječ o potencijalnom teroristu. Primjerice, kod obrade podataka poziva ostvarenih mobitelom, Skynet prikuplja informacije o lokaciji, vremenu trajanja poziva, biranom broju i ostalom na osnovu čega stvara profil osobe. No, ako nadzirana osoba isključi mobitel, to se smatra pokušajem izbjegavanja nadzora kao i mijenjanje SIM kartice. Skynetov program vrši selekciju na temelju učitanih profila „stvarnih terorista“ te pronalazi osobe sa sličnim obrascima ponašanja. No, Patrick Ball, izvršni direktor Grupe za analizu podataka o ljudskim pravima, tvrdi da se uz NSA-in program vežu dva velika problema: prvo, Skynet nije programiran na prikladan način na koji bi se stvarni teroristi mogli otkriti, te, drugo, sustav „zatvorene petlje“ od Skyneta stvara suca, porotu i krvnika, odnosno, omogućuje mu ubijanje ljudi na osnovu vlastite odluke.

Podaci govore da su od 2004. do danas bespilotne letjelice u Pakistanu ubile gotovo 4 000 osoba koje je američka vlada okarakterizirala kao ekstremiste od kojih je vjerojatno većinu ovaj program, temeljen na pretpostavci da se ponašanje terorista razlikuje od ponašanja prosječne osobe, pogrešno obilježio kao teroriste. No, ako i pretpostavimo da Skynet nikada nije eliminirao nevinu osobu, što doista djeluje nemoguće, već sama pomisao na ideju o prepuštanju stroju da odlučuje o takvim stvarima djeluje zastrašujuće. Uz to, NSA i dalje razvija slične programe kao što je to MonsterMind, sustav računalne obrane koji odmah i sasvim autonomno neutralizira internetske napade, a može pokrenuti i protunapad.

Svi smo svjesni činjenice da algoritmi sve više upravljaju našim životima. Ono na što ovdje pokušavamo skrenuti pažnju jest taj mali korak koji Skynetovu „logiku“ pri otkrivanju terorista može usmjeriti na druge zemlje kako bi se njime, recimo, otkrivali raspačivači droge ili prosvjednici ili samo ljudi koji se ne slažu s mišljenjem koje prevladava u zajednici ili koje nameće država. Ubijanje ljudi na nekom drugom kontinentu, „daleko“ od nas možda djeluje kao nešto što se nas ne tiče, no možemo li doista biti sigurni u to da nas nikakav sličan program već ne nadzire?

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s