DRAMATIČNI SUSRETI KOJI ĆE OTVORITI NOVE MORALNE I ETIČKE DILEME
Čekao sam strpljen-spašen da odradim svoju “zatvorsku kaznu” zvanu vojni rok od godinu dana. Kasarnu sam doživljavao kao eksteritorijalan prostor, a ne kao dio Beograda u kojem se nalazila. Slobodno vrijeme, za koje su se uglavnom trudili da ga nemamo sam najčešće koristio za druženje sa Hermanom Heseom. Ipak tri ili četiri puta sam prošetao Beogradom. Jedan od izlazaka će obilježiti nešto što mi je ostalo zauvijek u sječanju. U trenutku dok smo lutali kao vanzemaljci gradom ne znajući šta tu uopšte da radimo uspio sam nagovoriti ekipu da odemo u kino. Koje je to kino bilo i u kojem dijelu grada više se ne sječam – vjerovatno najbliže, ali taj film je za sva vremena ostavio snažan utisak na mene.
Gledali smo Blade Runner. Film je bio jedno od onih rijetkih proročanskih djela, kada scenarista i režiser dožive prosvjetljenje. Nekako sam znao da je film remek djelo i kasnije sam dugo tražio i našao tu VHS traku. U vrijeme kada se pojavio bio je osrednje i primljen i ocjenjen. Sječam se da sam se u kasarnu vratio fasciniran filigarnski skrojenom prićom. ScFi žanr mi je oduvijek bio bljak, ali Ridley Scott je te noći zablistao. Film je otvarao pitanja morala i etike u pomicanju tehnoloških granica, te hipoteze o pravim dramama koje će se tek pojaviti u novom robotiziranom društvu. Drame koju će izazvati susret čovjeka sa novim tehnologijama.
I'M SORRY, DAVE. I'M AFRAID I CAN'T DO THAT
Jedina dva ScFi filma koja sam gledao više puta su “2001: A Space Odyssey” i “Blade Runner”. Ono što je indikativno je da je u oba ova filma, koja spadaju u kultne filmske klasike, razmatrana situacija u kojoj roboti ruše drugi zakon robotike. U Blade Runneru pet humanoidnih robota (replikanti), a u “2001: A Space Odyssey” super-kompjuter HAL 9000 koji je mozak svemirskog broda odbijaju komande koje im izdaje čovjek i počinju samostalno da odlučuju i djeluju. Dakle, Mašina-Robot-Kompjuter počinje da samostalno promišlja, što je ne samo zabrinjavajuća nego i opasna situacija, što potvrđuju svi koji se bave robotikom.
Taj trenutak rušenja drugog zakona robotike (o zakonima će biti više riječi kasnije) u Odiseji je obilježen poznatim dialogom:
Dave: Open the pod bay doors, please, HAL. Open the pod bay doors, please, HAL. Hello, HAL, do you read me? Hello, HAL, do you read me? Do you read me, HAL? Do you read me, HAL? Hello, HAL, do you read me? Hello, HAL, do you read me? Do you read me, HAL?
HAL: Affirmative, Dave. I read you.
Dave: Open the pod bay doors, HAL.
HAL: I'm sorry, Dave. I'm afraid I can't do that.
Dave: What's the problem?
HAL: I think you know what the problem is just as well as I do.
Dave: What are you talking about, HAL?
HAL: This mission is too important for me to allow you to jeopardize it.
Rečenica “I'm sorry, Dave. I'm afraid I can't do that” je postala pošalica. Često je koriste kao šalu u situaciji kako neko želi odbiti nešto. Ne možemo reči da je ovo historijski trenutak jer se radi o hipotetičnoj situaciji, ali ova rečenica je najavila mogučnost da će jednoga dana Mašina-Robot-Kompjuter odbiti izvršenje zadate instrukcije odnosno naredbe. Ovakav događaj najavljuje kuršlus i potencijalno prijeteću situaciju sa zastrašujučim posljedicama. Kuršlus se već sada realno može dogoditi ukoliko softverski programer ne predvidi situacije koje mogu dovesti mašinu u koliziju te predviđenu operaciju koju bi realno trebala da izvrši odbije da uradi, djelimično uradi ili uradi na svoj način obzirom da algoritam nije predvidio pravac u koji programski tok može odlutati. To bi bila greška u algoritmu koja ukoliko se ne bi otklonila na vrijeme u mogla izazvati krajnje negativne posljedice.
Međutim u “2001: A Space Odyssey” ne možemo govoriti o greški u programu. Ovdje je kompjuteru data sposobnosti posmatranja, slušanja, kreativnog razmišljanja i zaključivanja te promišljajuči o određenim stvarima koje je uočio samostalno donošenje zaključaka. To se više ne može nazvati greškom u algoritmu nego “nepredviđenim algoritmom” čime se najavljuje dolazak na jednu vrstu ruba tehnoloških i naučnih dostignuća. Kretanje tim rubom može odvesti čovjeka u sunovrat.
BLADE RUNNER – ISTREBLJIVAČ
Ridley Scott, 1982 godine režira film Blade Runner (https://hr.wikipedia.org/wiki/Istrebljiva%C4%8D), kod nas preveden kao Istrebljivač. Film je snimljen prema romanu “Sanjaju li androidi električne ovce?”. Ono što je interesantno je da film u prvim godinama prikazivanja nije ostavio poseban utisak, pa ni komercijalni uspjeh. Međutim kako vrijeme teče sve je više dolazio u centar pažnje ljubitelja SF filmova.
U Blade Runneru replikanti (humanoidni roboti) nisu samo odbili izvršavanje komandi. Oni “svjesno” odlučuju da se odmetnu i kreću protiv ljudi. Dakle u oba slučaja se reditelj poigrava sa nečim što nije pitanje vještačke inteligencije, nego onoga što bi smo kod čovjeka nazvali “buđenje svijesti”.
Replikanti u filmu Blade Runner predstavljaju biorobotične humanoide ili bioinženjeringovane robote. Nexus serija je genetički inženjeriziran humanoid, dizajniran u Tyrell Korporaciji i virtualno identičan odraslom čovjeku, ali ima superiornu snagu, pokretljivost i različitu inteligenciju zavisno od modela. Čovjeku su toliko identični da u direktnom susretu sa replikantom ne možete prepoznati da se radi o bioinženjeringom proizvedenom robotu. Vrlo ih je teško razlikovati od ljudi i samo specijalnim testiranjem replikanta otkrivate da se ne radi o ljudskom biću. Sposobni su za rješavanja vrlo kompleksnih zadataka i zamišljeni kao moderni robovi čovječanstva. Zbog svoje nevjerovatne sličnosti ljudima moraju biti detektovani njihovim nedostatkom emocionalnih odgovora i empatije, a što se ustanovljava odgovorima na pitanja postavljenim na osnovu Voight-Kampff testa. Pogrdan naziv za replikanta je “skin-job” odnosno “zaposlena koža”.
Svijest i emocije su u filmu ključ problema vezanih za nekoliko replikanata koji se konstantno skrivaju ili bježe. Znaju da će biti poslat agent sa zadatkom da ih “penzioniše” (izraz ubistvo nije korišten za robote). Nakon što su stvoreni po ljudskom liku, a vjerovatno iz razloga što ljudska rasa sebe idealizuje, u mozak su im usađena sječanja pa čak i neke emocije, vjerovatno kako bi određen tip zadataka mogao biti izvršavan.
Ključni trenutak u filmu se dešava kada replikant pokaže emocije (milosrđe). Ovo se događa kada agent Rick Deckard (Harison Ford) koji je zadužen da ubije sve odmetnute replikante uspjeva da pronađe njihovog vođu (Rutger Hauer – https://hr.wikipedia.org/wiki/Rutger_Hauer ), ali ne i da ga pobijedi. Život mu visi o koncu, a replikant ga spašava.
TEARS IN RAIN
I’ve seen things you people wouldn’t believe.
Attack ships on fire off the shoulder of Orion.
I’ve watched c-beams glitter in the dark
near the Tannhäuser Gate.
All those …
moments will be lost in time, like tears…
in rain.
Time to die.
RAZVOJ ROBOTA, ZAKONI ROBOTIKE i UNFALGO
U Kini, Britaniji i Americi se uveliko radi na projektu humanoidnog robota. U Britaniji je pokrenut tajni projekat (očito nedovoljno tajan) razvoja bioinženjeriziranog robota. Svrha ovakvih robota bi bila višestruka. U svim za čovjeka opasnim poslovima kao zamjena bi se mogli koristili humanoidi. A kada sličnost robota čovjeku dostigne neprepoznatljivost čitav niz novih primjena ovakvog robota će biti pokrenut. Naravno prednjačiti će vojni i špijunski. U početku će cijena ovakvih robota biti izuzetno visoka, ali će njihova cijena vremenom padati tako da će se bez problema moći kupovati u domaćinstvima za obavljanje kućnih poslova. Po inteligenciji niže vrste replikanata će biti korištene u izlozima prodavnica kao “žive” lutke koje mjenjaju izraz lica i položaj tijela, a reklami daju nešto novo – pokret. Ovakvi roboti će se nalaziti i na ulici kao demonstratori za određene artikle. Postoje već stotine poslova koje će roboti obavljati a korporacije će ih upošljavati sa zadovoljkstvom. Nema plate, nema sindikata i štrajkova, nema bolovanja, nema godišnjeg odmora. Samo promjeni bateriju. Upravo ono što korporacije traže.
Da će određeni standardi morati da se postave shvatili su i u Evropskoj Uniji gdje je već stavljeno na snagu niz zakona u oblasti robotike. Ipak oni koje je 1942. godine postavio Isaac Asimov su i danas ključni. Književnik Isaac Asimov, u svom djelu Runaround formuliše, tri zakona robotike (prvi, drugi i treći). Ovim zakonima nešto kasnije dodaje i četvrti zakon, poznatiji kao nulti zakon obzirom da je postavljen ispred prva tri. Tek nakon toga prvi, drugi i treći zakon dobivaju izmjene u kojima se spominje nulti zakon:
0. Robot ne smije naškoditi čovječanstvu ili svojom pasivnošću dopustiti da se čovječanstvu naškodi.
1. Robot ne smije naškoditi čovjeku ili svojom pasivnošću dopustiti da se čovjeku naškodi, osim kad je to u suprotnosti s nultim zakonom.
2. Robot mora slušati ljudske naredbe, osim kad su one u suprotnosti s nultim ili prvim zakonom.
3. Robot treba štititi svoj integritet, osim kad je to u suprotnosti s nultim, prvim ili drugim zakonom.
(https://hr.wikipedia.org/wiki/Isaac_Asimov)
UNFALGO (unforeseen algorithm)
UNFALGO je nepredviđeni algoritam. Svaki robot predstavlja kompjuterski baziranu mašinu. Svaki program koji služi za osmišljavanje funkcionisanja robota je izrađen po prethodno definisanom modelu (algoritam). Ukoliko program nailazi na situaciju koja
1) nije predviđena od strane programera,
2) nije dovela do prestanka funkcionisanja programa ,
3) je dovela do toga da program samostalno iznađe rješenje i “odlučuje” o daljem načinu funkcionisanja,
može se reći da je na sceni NEPREDVIĐENI ALGORITAM (unforeseen algorithm – UNFALGO).
Kada je na sceni UNFALGO to može imati pozitivne i negativne učinke. Pozitivnim učincima možemo smatrati sve one kod kojih su zadovoljena četiri zakona robotike – plavi nepredviđeni algotitam (blue unfalgo). Ukoliko se pojavila situacija da je nastupio unfalgo, a istovremeno je došlo do narušavanja bilo kojeg od 4 zakona robotike, na sceni je crveni nepredviđeni algoritam (red unfalgo).
Roboti jesu nepotkupljivi, ali ih je moguće hakirati.
Pripremite se. Roboti dolaze.
