Koja su to pitanja koja pred ljudski rod stavlja pojava umjetne inteligencije? Na ovo je pitanje u Zagrebu odgovarala francuska filozofkinja Catherine Malabou. Ulazimo li invencijom novih oblika umjetne inteligencije u doba nove paradigme i jesu li pitanja koja se javljaju i egzistencijalistička po svojoj prirodi?
______________________________________________________________________________________
U ponedjeljak, 26.2.2018., u prostorijama Akademije dramske umjetnosti u Zagrebu i u organizaciji Multimedijalnog instituta Mama, francuska filozofkinja Catherine Malabou održala je predavanje o novoj umjetnoj inteligenciji i pitanjima koja ona postavlja pred čovjeka. Iako autorica problemu pristupa iz psihoanalitičke perspektive, ipak nam se glavno pitanje kojeg obrađuje činilo bar djelomično egzistencijalističko, a onda i etičko.
U posljednjih nekoliko godina razvoj umjetne inteligencije dosegao je novu razinu i doveo nas u doba promjene paradigme, tvrdi Malabou. Ovakav razvoj događaja ona pripisuje dvjema događajima od povijesnog značaja: razvoju nove računalne arhitekture – neurosinaptičkih čipova, koje je razvio IBM, nazvanih “True north” i dizajniranih su poput ljudskog mozga. Malabou citira tvorca ovih čipova Dharmendru Modhu, voditelja Odjela moždanog računarstva koji je stvorio taj čip; dok su postojeća računala slični lijevoj hemisferi mozga na način da kod njih prevladava brzina, simboličko i analitičko razmišljanje, neurosinaptički se čipovi mogu usporediti s desnom hemisferom; spori su, senzorski i prepoznaju obrasce. On imitira mozak na način da omogućuje interakciju među neuronima, sinapsama i aksonima. To znači da može varirati razine energije i svoje veze, i na taj način sustav raziva ono što Modha naziva “svojim vlastitim iskustvom” – jer se može adaptirati kontekstu.
Druga je stvar koje je dovela do ove faze izum tzv. rekurentnih umjetnih neuronskih mreža recurrent neural artificial networks. To su računalni sustavi, također inspirirani biološkim neuralnim mrežama, koje posljedično same uče bez da ih se programira. Primjerice, ako se takvoj mreži pokažu slike s mačkama, ona će sama ustanoviti da su na slikama mačke kao obrazac na koji treba obratiti pažnju. Ovakva se vrsta učenja na engleskom zove tzv. ” deep learning” .
Sve nas je to dovodelo do nove vrste umjetne inteligencije s potencijalom razvitka vlastite inteligencije i autonomijom neviđenom dosad te posljedično, pitanja koja koja su nova za ljudsku vrstu.
Naime, nikad se u prošlosti ljudska egzistencija nije morala suočiti s drugom vrstom inteligencije koja joj je potencijalno ravnopravna – no nije ljudska. Kako se prema tome postaviti?
Malabou primjenjuje “Uncanny valley” teoriju, prema kojoj nas roboti koji izgledaju kao ljudi no ne baš do kraja slično, najviše plaše – na robotski um. Radi paralele s Freudovim shvaćanjem da se u ljudskom umu budi strava kad neki neživi objekt možda može postati živi. Zato odbacujemo takve robote – još uvijek ne postoje društvene konvencije o tome kako se ponašati pred robotima, stoga ih tretiramo kao zombije.
Ona teoriju “Uncanney valley” primjenjuje na robotski um i kaže da nas na isti način plaši mentalna dimenzija koja je zapostavljena u cijeloj raspravi o izgledu robota. Što je to što nam stvara nelagodu kod umjetne inteligencije? Problem nije na razini tijela, smatra Malabou. Nije izgled taj koji nam stvara nelagodu, već inteligencija koja nije naša a simulira razinu naše inteligencije.
Malabou se poziva na Freuda te se pita nisu li nedefinirani čudni osjećaji koje u nama izaziva umjetna inteligencija zapravo odraz onoga što je on nazivao homo-erotizacijom? Ne dolaze li oni iz istovremenog osjećaja privlačnosti i odbojnosti koju inteligencija osjeća prema drugoj inteligenciji? Malabou taj efekt naziva “homointeligibilnošću” ili, u doslovnom bi hrvatskom prijevodu to bilo – “homorazumljivšću”.
Na sličan način kao kod teorije da je ono što nam je neugodno kod zombija zapravo to da je u neživom ono što je trebalo biti sakriveno izloženo pogledu, tako smo i kod umjetne inteligencije suočeni s onim što je trebalo biti sakriveno, a izloženo je pogledu. Pozivajući se dalje na Freuda, ona se pita je li to što nam stvara nelagodu osjećaj da nas umjetna inteligencija kastrira od vlastite – trenutak u kojem počinjemo percipirati da umjetna inteligencija preuzima dio našeg vlastitog mozga?
Umjetna inteligencija suočava nas s drugim tipom “drugosti” koji je istovremeno “istost”, što je fenomen kojeg ne možemo još u potpunosti shvatiti, smatra Malabou.
Pitanja koja postavlja Malabou su zanimljiva te se mogu svesti na sljedeće glavno pitanje: kako se kao ljudska egzistencija odnosimo prema ne-ljudskom tipu eventualno ravnopravne nam egzistencije?
Iako se Malabou u svom radu fokusira na psihoanalitičku perspektivu, ovo je pitanje barem djelomično egzistencijalističko. Naime, egzistencijalistička pitanja su ona koja se bave iskustvom bivanja živim. I dosad je ljudska egzistencija, ljudsko iskustvo bivanja živim, sa pripadajućom joj inteligencijom, zauzimala posebno mjesto u živom svijetu. Na ljudsko iskustvo bivanja živim nepovratno će utjecati pojava druge inteligencije koja se po razini funkcioniranja opasno približava ljudskoj.
Nakon predavanja razvila se rasprava u kojoj se posebno istaknulo pitanje jedne posjetiteljice nije li problematična etička dimenzija umjetne inteligencije, s obzirom na to da je riječ o inteligenciji koja ne posjeduje sposobnost osjeta emocija – što je, kako je ustvrdila, karakteristika psihopatije? Kako ćemo biti sigurni da nas umjetna inteligencija neće pokušati – iskoristiti, prevariti ili nam nanijeti zlo? Malabou je u odgovoru ovakvo pitanje protumačila u okvirima upravo “uncanny effect” fenomena kojeg osjećamo prema pametnim strojevima tj. ustvrdila je kako je pitanje zapravo projekcija vlastitog straha prema umjetnoj inteligenciji.
No moramo se zapitati nije li ovakva vrsta argumentacije manjkava? Čak i da pitanje jest odraz ljudskog straha, to ne znači da ono nije utemeljeno. Pobijanje logičkih teza psihološkim objašnjenjima ne predstavlja validnu kontraargumentaciju i Malabou je tu upala u upravo onu zamku koju filozofi najčešće i zamjeraju psihoanalizi. Nadalje, teza da strojevi ne posjeduju sposobnost osjeta emocija, već simulacije emocija i da je upravo to karakteristika psihopatije – u potpunosti je točna. Ovo nije prvi put da se priča ili govori o ovakvom principu funkcioniranja – on je već sadržan u tehnologiji koja se razvila u industrijskom društvu pod utjecajem kapitalizma – u obliku instrumentalizirane racionalnosti ili racionalnosti koja je oslobđena ne-instrumentalnih vrijednosti. Drugim riječima, racionalnosti koja razmišlja samo u okvirima učinkovitosti, a zapostavlja ljudskost. Idealno za efikasnost, no što je s ljudima?
Zašto je takav princip tehnološkog i društvenog funkcioniranja problematičan odavno su ustvrdili mnogi sociolozi i filozofi, poput Zygmunta Baumana ili Martina Heideggera. Na kraju krajeva, upravo je Drugi svjetski rat bio pokazatelj situacije u kakvu instrumentalizirana racionalnost dovedena do ekstrema može dovesti društvo. Umjetna inteligencija pak predstavlja upravo ovaj princip u malom, princip racionalnosti oslobođene ne-instrumentalnih vrijednosti, ali još možda i gore – koja te ne-instrumentalne vrijednosti simulira. Nije li takva vrsta tehnologije opasna po čovjeka i kako će se čovjek od nje štititi? Kao što je opravdano pitala i navedena posjetiteljica, razmišlja li se pri razvoju umjetne inteligencije dovoljno o etičkoj dimenziji?
Malabou je, doduše, u jednom dijelu odgovora postavila protupitanje koje nam se čini kao legitimniji kontraargument od onog o projekciji; kad pogledamo stanje svijeta danas, čini nam se da smo s ljudskom inteligencijom sigurniji? Tojest, hoćemo li s umjetnom stvarno biti izloženi drugačijoj ili većoj opasnosti?
Predavanje nam je, u svakom slučaju, dalo materijala za promišljanje. Jer iako smo od umjetne inteligencije u svakodnevnici još uvijek daleko, dovoljno smo blizu da bismo o njenim implikacijama mogli početi promišljati.
Cjelokupno predavanje dostupno je ovdje.