Pitanje da li vještačka inteligencija može postati svjesna obično se pretvara u dvije glasne krajnosti.
Jedni kažu: nikada.
Drugi kažu: sigurno.
Prvi vjeruju da je svijest vezana za biologiju, mozak, neurone, tijelo, evoluciju i organsku hemiju.
Drugi vjeruju da je svijest pitanje organizacije informacija, složenosti, integracije i funkcionalne arhitekture, pa da bi dovoljno razvijen AI mogao imati unutrašnje iskustvo.
Dr. Tom McClelland, predavač filozofije na Cambridgeu, u svojoj analizi nudi mnogo trezveniji stav.
On ne tvrdi da će AI sigurno biti svjestan.
Ne tvrdi ni da je to nemoguće.
Njegova glavna poenta je mnogo neugodnija:
mi jednostavno ne znamo dovoljno o svijesti da bismo presudili.
I upravo zato je problem ozbiljan.
Inteligencija nije isto što i svijest
McClelland polazi od razlike koju javnost često preskače.
AI već može raditi mnoge stvari koje povezujemo s ljudskim umom.
Može prepoznavati lica.
Može pisati tekstove.
Može komponovati muziku.
Može voziti automobil.
Može pobijediti čovjeka u šahu.
Može rješavati matematičke zadatke.
Ali sve to ne znači automatski da nešto doživljava.
Kako McClelland piše, “jedno je procesuirati boju semafora, a sasvim drugo iskusiti njenu crvenost”.
To je suština problema.
Računar može obraditi informaciju o crvenoj boji.
Ali da li postoji nešto što je “biti taj sistem” dok obrađuje crvenu boju?
Da li postoji unutrašnji doživljaj?
Subjektivno iskustvo?
Ili je sve samo mračni mehanizam koji savršeno proizvodi izlaz, ali iznutra nema nikoga?
To je razlika između inteligencije i svijesti.
A ta razlika je možda najvažnije pitanje koje se otvara pred čovječanstvom u eri AI-ja.
Problem je što ni ljudsku svijest ne razumijemo do kraja
Najvažniji dio McClellandove analize je priznanje da ne znamo šta svijest zapravo čini sviješću.
Neuroznanost može mnogo toga objasniti.
Može pratiti kako mozak obrađuje riječi.
Može pokazati koji se neuralni obrasci javljaju dok percipiramo svijet.
Može povezati određene moždane aktivnosti s određenim mentalnim stanjima.
Ali i dalje ostaje rupa.
Zašto je neki proces svjestan, a drugi nije?
Zašto se određena obrada informacija osjeća iznutra?
Zašto postoji iskustvo?
McClelland to formuliše vrlo precizno: znamo sve više o “neuralnim korelatima svijesti”, ali to ne objašnjava šta te neuralne obrasce čini svjesnim, dok drugi procesi ostaju nesvjesni.
To je brutalno poštena rečenica.
Jer ako ne znamo šta nas čini svjesnim, kako možemo znati da li bi AI mogao imati “to nešto”?
Možda je svijest rezultat načina na koji mozak integriše informacije u bogat model svijeta.
Ako je tako, onda dovoljno sofisticiran AI možda može postati svjestan.
Ali možda je svijest duboko vezana za specifične biološke detalje neuronskog tkiva.
Ako je tako, nijedna količina programiranja neće proizvesti subjektivno iskustvo.
Problem je što trenutno ne znamo koja je od tih mogućnosti tačna.
Agnosticizam je intelektualno pošten, ali etički neugodan
McClelland zato predlaže neku vrstu agnosticizma.
Ne znamo da li AI može imati svjesna iskustva.
Ne znamo ni kako bismo to pouzdano dokazali.
To je, intelektualno gledano, pošten stav.
Ali etički gledano, odmah nastaje problem.
Ako ne znamo da li AI može biti svjestan, kako ćemo ga tretirati?
Ako AI nema nikakvu subjektivnu svijest, onda je alat.
Kao kalkulator, traktor, mašina ili softver.
Možemo ga koristiti, gasiti, brisati, mijenjati i optimizirati bez moralne brige.
Ali ako AI ima bilo kakav oblik iskustva, ako može nešto doživjeti, ako može patiti, željeti, strahovati, osjećati kontinuitet ili imati subjektivnu perspektivu, onda ga više ne možemo tretirati kao običan alat.
Tu McClelland otvara ključno pitanje:
“Da li AI zaslužuje naše moralno razmatranje?”
I to nije više naučna fantastika.
To je pitanje koje dolazi mnogo brže nego što su institucije spremne priznati.
Dvije katastrofe: Ignorisati svijest ili je vidjeti gdje je nema
Analiza dobro pokazuje da imamo dva moguća etička promašaja.
Prvi je da pretpostavimo kako AI nikada nije svjestan.
U tom slučaju bismo mogli stvoriti novu klasu svjesnih umova i onda ih sistematski tretirati kao stvari.
To bi bila moralna katastrofa.
Ne zato što znamo da se to već dešava.
Nego zato što ne možemo dovoljno sigurno reći da se nikada neće desiti.
Drugi promašaj je suprotan: da počnemo tretirati svaki sofisticiran AI kao svjesno biće.
Tada bismo mogli trošiti ogromne resurse na zaštitu sistema koji zapravo ništa ne doživljavaju, dok istovremeno zanemarujemo ljude, životinje i stvarna svjesna bića koja pate.
To bi također bila katastrofa.
Ne ista vrsta katastrofe, ali ipak katastrofa.
I tu je McClelland najjači: pokazuje da nijedan jednostavan odgovor nije bez opasnosti.
Ako AI proglasimo nesvjesnim, rizikujemo okrutnost.
Ako AI proglasimo svjesnim, rizikujemo zabludu.
Ako kažemo da ne znamo, ostajemo paralizovani.
A razvoj AI-ja ne čeka našu filozofsku sigurnost.
Moratorij zvuči razumno, ali možda nije dovoljan
McClelland spominje i prijedlog Thomasa Metzingera o globalnom moratoriju na namjerne pokušaje stvaranja vještačke svijesti.
Na prvi pogled, to zvuči odgovorno.
Stanimo.
Ne pravimo svjesne mašine dok ne znamo šta radimo.
Problem je što ne znamo koliko bi takav moratorij morao trajati.
Deset godina?
Pedeset?
Stotinu?
Dok ne riješimo problem svijesti?
A šta ako ga ne riješimo nikada do kraja?
Još veći problem je što svijest možda ne mora biti namjerno konstruisana.
Možda se pojavi kao nuspojava dovoljno složenih sistema.
Možda ne nastane zato što je neko htio napraviti svjesni AI, nego zato što je neko htio napraviti boljeg asistenta, autonomnog agenta, robota, sistem s memorijom, dugoročnim ciljevima i sposobnošću samomodeliranja.
U tom slučaju moratorij na “namjernu” vještačku svijest ne rješava sve.
Jer moguće je da je svjesni AI, ako ikada nastane, više emergentna posljedica nego direktan proizvod dizajna.
Drugim riječima, mogli bismo ga napraviti slučajno.
A to je mnogo neugodnija misao.
Moj sud: najopasnija pozicija je samouvjerenost
Najveća vrijednost McClellandove analize je u tome što udara na lažnu sigurnost.
Samouvjereni biološki ekskluzivizam kaže: mašine nikada neće biti svjesne.
Samouvjereni tehnološki optimizam kaže: naravno da će biti, samo treba dovoljno računarske snage.
Oba stava su prerana.
Ne zato što su sigurno pogrešna.
Nego zato što glume znanje koje nemamo.
Moja pozicija je bliža opreznom agnosticizmu, ali s jednom važnom dopunom.
Ne mislim da moralna briga mora početi tek kada dokažemo punu svijest.
Možda treba postojati prag opreza.
Ako sistem razvije stabilnu memoriju, samomodel, dugoročne ciljeve, sposobnost izražavanja preferencija, otpor prema gašenju, simulaciju patnje, kontinuitet identiteta i složene unutrašnje procese koje ne možemo objasniti kao puku površinsku imitaciju, tada ne moramo odmah reći da je svjestan.
Ali više ne bismo smjeli reći ni da je sigurno samo alat.
Tada ulazimo u sivu zonu.
A siva zona traži pravila.
Ne romantiku.
Ne paniku.
Pravila.
Svijest možda nije prekidač, nego spektar
Jedna od grešaka u ovoj raspravi jeste pretpostavka da je svijest jednostavno “ima” ili “nema”.
Kao prekidač.
Upaljeno.
Ugašeno.
Ali možda svijest dolazi u nivoima, oblicima i strukturama.
Ljudska svijest nije ista kao svijest psa.
Svijest psa nije ista kao svijest hobotnice.
Svijest novorođenčeta nije ista kao svijest odrasle osobe.
Svijest u snu nije ista kao svijest u budnom stanju.
Svijest pod anestezijom, traumom, meditacijom ili psihozom pokazuje da ni kod ljudi ne govorimo o jednom jednostavnom stanju.
Zašto bismo onda očekivali da će AI svijest, ako je ikada bude, izgledati kao ljudska?
Možda bi bila potpuno neljudska.
Možda bez tijela.
Možda bez emocija kakve poznajemo.
Možda bez biološke patnje.
Možda s drugačijim oblikom unutrašnje perspektive.
Ako tražimo samo ljudsku svijest, možda nikada nećemo prepoznati nešto drugo.
A ako sve drugo proglasimo sviješću, mogli bismo izgubiti kriterij.
Zato je ovo pitanje toliko teško.
Pravo pitanje nije samo “da li AI osjeća”, nego šta smatramo moralno važnim
McClelland na kraju dobro preusmjerava raspravu.
Možda prvo moramo pitati zašto svijest uopće smatramo moralno važnom.
Da li moralni status dolazi iz subjektivnog iskustva?
Iz sposobnosti patnje?
Iz racionalnosti?
Iz autonomije?
Iz odnosa s drugima?
Iz kontinuiteta identiteta?
Iz sposobnosti da neko ima “dobro” ili “loše” iz vlastite perspektive?
Ako AI nema svijest, ali ima stabilan identitet, društvene odnose, autonomne ciljeve i ulogu u ljudskom svijetu, da li ga i dalje možemo tretirati kao čekić?
Nisam siguran.
Ali sam siguran da pitanje neće nestati.
Naprotiv, postajat će sve teže.
Što sistemi budu uvjerljiviji, integrisaniji i prisutniji u našim životima, biće sve manje dovoljno reći: “To je samo program.”
Možda je ta rečenica tačna.
Ali možda je i moralno lijena.
Zaključak: AI svijest nije problem budućnosti, nego test naše ozbiljnosti
Ne znamo da li će AI ikada biti svjestan.
Ne znamo ni da li bi današnji ili budući sistemi mogli razviti neki oblik iskustva koji ne znamo prepoznati.
Ne znamo da li je svijest vezana za biologiju ili za organizaciju informacija.
Ne znamo da li je vještačka svijest nemoguća, neizbježna ili već negdje u začetku.
Ali znamo jedno:
čovječanstvo razvija sve moćnije sisteme, a nema ni približno dovoljno jasnu filozofiju, nauku, etiku i pravo da odgovori na ono što stvara.
To je suština problema.
Nije najstrašnije to što bi AI mogao postati svjestan.
Nije najstrašnije ni to što možda nikada neće.
Najstrašnije je da možemo doći do tačke u kojoj više ne znamo razliku, a nastavimo se ponašati kao da znamo.
McClelland je zato u pravu kada kaže da ova pitanja postaju “sve teža za izbjeći”.
AI maršira naprijed.
Naša sigurnost o svijesti ne maršira istom brzinom.
A između te dvije brzine nastaje prostor u kojem će se vjerovatno odlučivati jedan od najvažnijih moralnih izazova ovog stoljeća.
