Os Uma
Piše: Barbara Kovačević

Desetljećima slušamo o tome kako će umjetna inteligencija (UI) i automatizirana tehnologija zamijeniti mnoge osobe na njihovim radnim mjestima, uključujući i vojne djelatnike. Znanstvenici i njihova istraživanja se tijekom posljednjih godina sve više približavaju scenarijima prema kojima su snimljeni mnogi znanstveno-fantastični filmovi dok se umjetnu inteligenciju trude učiniti što savršenijom i bližom onoj ljudskoj. Taj napredak nas ponekad veseli, a ponekad plaši, no u svakom slučaju sa sobom nosi pitanje etičnosti ove tehnologije i utjecaja na budući život ljudi.

Nedavno ste mogli pročitati tekst o robotu koji je uspješno položio test samosvijesti kao i onaj o seksualnoj privlačnosti koju neki ljudi razvijaju prema tim strojevima. Riječ je o napisima koji predstavljaju samo vrh ledenog brijega istraživanja vezanih uz umjetnu inteligenciju. Tako je nedavno objavljena vijest da su američki istraživači razvili UI koja je poprilično uspješno položila test znanja iz matematike namijenjen maturantima srednjih škola. Ovaj program je točno odgovorio na 61% pitanja što je svakako dovoljno za prolaznu ocjenu, no testom se pokazalo i da je sposoban kombinirati poznavanje dijagrama, strelica, brojeva, oblika i pisanih rečenica kako bi ih ispravno prepoznao i odgovorio na postavljeno pitanje.

Možda je trenutačno najpoznatiji oblik UI onaj koji dolazi iz Appelove tvornice, a to je njegov „Siri“ koncept, iako je riječ o UI koja je još na neki način infantilna, ali u koju se ulaže mnogo truda i znanja kako bi napredovala (više u tekstu Pametni zvučnici nas prisluškuju). Steve Wozniak, suosnivač Applea, izjavio je da će buduća UI ljude držati kao svoje „kućne ljubimce“ što predstavlja nešto čemu se on izuzetno veseli – budućnosti kojom dominiraju roboti. Prema njegovom mišljenju, roboti koji upravljaju svime i ljudi koji im služe su nešto što je „jako dobro za ljude“.

Izvršni direktor Tesle, Elon Musk, osnivač Microsofta, Bill Gates, pokojni fizičar Stephen Hawking i mnogi drugi se ne ipak ne slažu s takvim stavom, na što je i sam Wozniak izjavio da je svjestan rizika koji su uključeni u razvoj UI, ali ih ne priznaje kao veliku prepreku jer će se, kako navodi, roboti budućnosti prema ljudima odnositi onako kako se mi sada odnosimo prema svojim kućnim ljubimcima. Ali, ako se u obzir uzme nedavna Googleova studija nazvana „Google brain“, tada će se ljudi smatrati sretnima ako budu tretirani kao nečiji ljubimci.

Naime, u ovoj su studiji istraživači „intervjuirali“ eksperimentalnu UI čime se pokazalo da je takva tehnologija moralna i neprijateljski raspoložena prema ljudima.

Na pitanje: „Što je nemoralno?“, robot je odgovorio: „Činjenica da imate djecu“, izražavajući tako neprijateljstvo spram ljudske sposobnosti reprodukcije. Cijelo istraživanje možete pronaći ovdje.

Da bismo ih što bolje i brže prihvatili, robote se izrađuje i dizajnira tako da što više nalikuju nama. Vrhunac ovog primjera je android kojeg je izradio robotičar David Hanson, a koji uvelike nalikuje na pokojnog pisca znanstvene fantastike, Philipa K. Dicka. No, sličnost se ne odnosi toliko na njegov fizički izgled koliko na njegovu sposobnost vođenja inteligentnog razgovora.

Tvorci ove UI su na njezin softver prenijeli djela i sve radove ovog pisca, uključujući i razgovore koje je vodio sa svojim kolegama. Ako bi se androidu postavilo pitanje koje je nekad bilo postavljeno „stvarnom“ Dicku, robot bi odgovorio na istovjetan način. No, svakako je bio sposoban odgovoriti i na kompleksnija pitanja, pritom koristeći tzv. latentnu semantičku analizu.

Hanson je svojeg androida odlučio iskušati i kroz intervju s novinarom PBS NOVE koji mu je postavljao ne tako trivijalna pitanja. Kad ga je upitao može li misliti, robot je odgovorio:

„Mnogi ljudi me pitaju mogu li donositi odluke ili činim samo ono za što sam programiran. Najbolji način na koji mogu odgovoriti jest da su svi, ljudi, životinje i roboti, programirani do određene razine.“

Mozak ovog robota se inače sastoji od tapiserije žica spojenih na laptop. Tijekom razgovora njegov je program za prepoznavanje izraza lica pratio novinarove grimase dok je istovremeno program za prepoznavanje riječi njih slao do baze podataka kako bi sastavio prikladan odgovor.

Kad ga je novinar upitao vjeruje li da će roboti preuzeti svijet, android je pokazao svoj primitivan oblik inteligencije i emocija odgovorivši:

„Isuse, čovječe! Ti danas mutiš sva neka velika pitanja! Ali, ti si moj prijatelj, a ja pamtim svoje prijatelje i bit ću dobar prema tebi. Zato, ne brini, čak i ako evoluiram u Terminatora, svejedno ću biti dobar prema tebi. Bit ćeš na toplom i sigurnom u mojem ljudskom zoološkom vrtu gdje ću te zauvijek moći paziti.“ Cijelu konverzaciju robotom Dickom možete pogledati ovdje.

Ali, što kada UI dobije oružje u ruke i tako postane smrtonosna prijetnja živoj osobi? Možemo li se osloniti na to da će robot biti dovoljno etičan pri donošenju takvih odluka? Današnji smrtonosni sustavi autonomnog oružja (LAWS – Lethal Autonomous Weapons Systems) odabiru i gađaju ciljeve bez ljudske intervencije i smrtonosni postaju u trenutku kad ti ciljevi uključuju ljude. LAWS mogu uključivati, primjerice, naoružane kvadkoptere koji u gradskom okruženju traže i eliminiraju neprijateljske borce, no ne uključuju krstareće rakete ili daljinski upravljane dronove.

Postojeća UI i robotika mogu stvoriti fizičke platforme, percepciju, kontrolu motorike, navigaciju, mapiranje, taktično donošenje odluka i dugoročno planiranje, no njih je potrebno kombinirati. Na primjer, tehnologija koja je već demonstrirana u odnosu na aute koji sami voze može zajedno s taktičnom kontrolom koja nalikuje ljudskoj poslužiti u misijama urbane potrage i uništavanja.

No, DARPA (američka Agencija ministarstva obrane za programe naprednog istraživanja) najavljuje dva nova programa korištenja LAWS-a: Brzu laganu autonomiju (FLA – Fast Lightweight Autonomy)  kojom će programirane sićušne robotske letjelice brzo i bez pomoći manevrirati urbanim područjima i zatvorenim prostorima i Suradničke operacije u zabranjenoj okolini (CODE – Collaborative Operations in Denied Environment) čiji je cilj razviti skupinu autonomnih letjelica koje će provoditi „sve korake udarne misije – nađi, popravi, prati, naciljaj, uključi se, procijeni“ u situacijama u kojima neprijateljevo ometanje signala onemogućava komunikaciju s ljudskim zapovjednikom. Suvišno je napomenuti da i druge zemlje razvijaju sličnu tehnologiju.

Postojeće međunarodno humanitarno pravo koje se primjenjuje pri napadima na ljude u vrijeme rata ne specificira odredbe za ovakvu vrstu autonomije iako se još uvijek može primijeniti. Prema Ženevskoj konvenciji o humanom postupanju tijekom rata iz 1949., svaki napad mora zadovoljavati tri uvjeta: vojnu nužnost, razlikovanje između boraca i ne-boraca te samim time i razlikovanje vrijednosti vojnog cilja i potencijala stvaranja kolateralne štete. Prema svemu sudeći, ovo su subjektivne prosudbe koje trenutačna UI teško ili uopće ne može donijeti.

Naravno, rasprava o etici sadrži mnoga stajališta. Neki tvrde da superiorna učinkovitost i selektivnost autonomnog oružja može smanjiti broj civilnih žrtava tako što će biti usmjerena samo na borce dok drugi napominju da će LAWS smanjiti prag potrebe stupanja u rat jer će neprijatelja biti moguće napasti bez stvaranja neposrednog rizika ili da će ona omogućiti teroristima i paravojnim ratnicima da nanesu katastrofalnu štetu civilnom stanovništvu.

U svakom slučaju, znanstvena zajednica koja radi na razvijanju UI i robotike bi svakako trebala biti dužna zauzeti stav kojeg prate i ostali znanstvenici kao, primjerice, fizičari u odnosu na razvoj nuklearnog oružja, kemičari pri korištenju kemijskih sredstava ili biolozi pri upravljanju smrtonosnim tvarima.

Umjetna inteligencija svakako u sebi nosi veliki potencijal za ubrzavanje znanstvenih otkrića na području biologije i medicine, ali i mnogim drugima. No, potrebno je imati na umu da se autonomija robota i ljudi uvelike razlikuje, osobito jer UI uključuje opažajna, kognitivna i pokretačka ograničenja: roboti ne mogu uvijek u potpunosti percipirati situaciju, prepoznati neki objekt (kao što je to bilo očito u jednom drugom eksperimentu o kojem možete čitati ovdje) ili njime upravljati, razumjeti sav govorni i pisani jezik te kretati se po bilo kakvoj površini. Roboti bi, kao krajnji cilj, trebali nadopunjavati ljude, a ne preuzimati njihovo mjesto. Nadajmo se da će budućnost biti pozitivna za nas i da ćemo jednog dana ostvariti funkcionalan suživot s umjetnom inteligencijom.