Profesor s FER-a upozorava: Ne smijemo postati robovi tehnologije!

Kada smo kao klinci uživali u holivudskim SF blockbusterima poput Terminatora, pa kasnije i Matrixa, nismo mogli ni sanjati da će jednog dana zaista postojati samomisleća i skoro pa autonomna umjetna inteligencija. Jer, ti su filmovi nudili crne apokaliptične scenarije gdje su mašine postaLe moćnije od čovjeka koji ih je stvorio. Te su osim puke zabave nudili i upozorenje naraštajima inovatora i kompjuteraša koji dolaze.

Ipak, upozorenje filmaša nismo shvatili ozbiljno pa se već mjesecima nalazimo u svijetu u kojem umjetna inteligencija piše znanstvene radove, odgovara na intervjue, komponira glazbena djela, nudi analize događaja iz sadašnjosti i budućnosti, ima svoje mišljenje o čovjeku i Bogu…

Naravno, govorimo o ChatGTP-u, za kojeg kažu da je najpametniji računalni program trenutno, umjetna inteligencija – AI – koja je zaludila svijet do te mjere da su taj program neke zemlje već zabranile. Stoga je bilo pravo vrijeme da o AI koristima i opasnostima porazgovaramo s prof. dr. sc. Janom Šnajderom sa Zavodu za elektroniku, mikroelektroniku, računalne i inteligentne sustave zagrebačkog Fakulteta elektrotehnike i računarstva. Šnajder je na FER-u doktorirao 2010. godine, gdje od 2016. godine radi profesor i nositelj je šest predmeta, Bio je mentorom ili sumentorom studentima na više od stotinu preddiplomskih i diplomskih radova. Istraživački interesi su mu u području obrade prirodnog jezika i strojnog učenja, gdje je objavio više od 100 znanstvenih radova u časopisima i zbornicima međunarodnih konferencija.

– ChatGTP je mnogo toga odjednom: fascinantan, zabavan, koristan i opasan. Fascinantan je jer u znanstvenoj zajednici koja se bavi ovim područjem umjetne inteligencije (a to je obrada prirodnog jezika) nismo očekivali ovakav napredak tako brzo. U konceptualnom smislu, ChatGPT nema mnogo toga novoga: ideja jezičnih modela postojala je još od devedesetih godina, a neuronski pristupi uvedeni su u područje još 2012. godine. Ipak, ono što je iznenađujuće je „kvalitativan skok” koji se manifestira u tekstu koji generira ChatGPT, a koji je vjerojatno posljedica velike količine podataka na kojemu je model izgrađen. Ideja da kvantiteta može dovesti do kvalitativnih promjena sustava također nije nova, ali je ipak iznenađujuća kada se dogodi, objašnjava nam profesor Šnajder.

KOGNITIVNA VJERODOSTOJNOST

Može li se uopće za neki uređaj ili program reći da je „pametan“?

Znanstveno područje umjetne inteligencije od svojih je početaka patilo od terminoloških debata. Već na početku se pokazalo da nije lako definirati inteligenciju, pa onda ni umjetnu inteligenciju. Kada u priču uđu drugi koncepti iz psihologije i filozofije, kao što su razumijevanje i svijest, stvari postaju još složenije. Suvremena i široko prihvaćena definicija jest da je program ili uređaj inteligentan u mjeri u kojoj može uspješno ostvariti zadani cilj. U kolokvijalnom smislu možemo reći da je to pametan program ili uređaj, pogotovo ako je zadani cilj vrlo složen, no trebamo imati na umu da trenutačni sustavi UI ne pretendiraju biti kognitivno vjerodostojni. To što sustav UI može riješiti isti problem kao u čovjek, možda čak i brže, ne znači da ga rješava na isti način, pa je upitno ima li smisla govoriti o kognitivnim fenomenima kakve nalazimo kod ljudi. Možda je još uvijek pametnije suzdržati se stroj nazvati pametnim.

Gdje vidite dobre i korisne, a gdje loše i potencijalno opasne primjene programa poput ChatGPT-a? Već se ispostavilo da ga đaci koriste za pisanje seminara, pa čak i studenti za pisanje znanstvenih radova.

ChatGPT, i slični veliki jezični modeli koji će neminovno vrlo brzo uslijediti, doista može revolucionarizirati način na koji obavljamo mnoge zadatke. To se ne odnosi samo na rutinske zadatke (npr., sažimanje teksta, pisanje izvještaja ili odgovaranja na korisničke upite) već i na zadatke koje smatramo visoko intelektualnim i kreativnim, poput pisanja eseja i programskog koda. ChatGPT omogućit će da se ovi zadatci obavljaju brže i učinkovitije, što svakako znači veliku ekonomsku dobit. Alati koji dolaze vjerojatno će kombinirati generiranje teksta sa sustavima za pretraživanje informacija i automatsko zaključivanje, što će otvoriti posve nove fascinantne načine za pristupanje informacijama i generiranje znanja.

S druge strane, ChatGPT i slični alati daju privid da nam mnoge fundamentalne kognitivne vještine više neće trebati: zašto bismo pisali eseje, ako ih možemo napisati automatski. Čak i onda kada učenici i studenti znaju da bi bilo bolje da neke vještine usvoje i vježbaju sami, zbog raznoraznih pritisaka posezat će se za prečicama, odnosno generiranjem teksta pomoću ChatGPT-a. U medijima se čak javlja teza da je ChatGPT napokon bjelodano pokazao apsurd obrazovnog sustava koji učenike i studente podučavati činjenicama, umjesto da ih podučava vještima kritičkog razmišljanja. Ta je teza, naravno, promašena, kako je već mnogo puta pokazano, jer kritičko razmišljanje mora biti oslonjeno na znanju, a to uključuje i činjenice. Google nije eliminirao potrebu usvajanja znanja, ali je znanje učinio dostupnijim. Isto će tako biti s ChatGPT-om i njegovim sljedbenicima. Obrazovni sustav morat će se, međutim, prilagoditi: trebat će osigurati da se nužne kognitivne vještine osvajaju unatoč tome što ih UI automatizira, neke vještine doista će s vremenom možda postati nepotrebne, dok će pojaviti neke nove. Konačno, tu je i ogroman potencijal primjene ChatGPT i sličnih sustava u podučavanju i samoučenju.

Već je odavno robotika zamijenila čovjeka u nekim industrijskim poslovima. Zadnji val te tehnologije, koji je Hrvatima i dalje nov i zbunjujući, jesu automatizirane blagajne po dućanima, gdje ne treba blagajnik već kupac sve radi sam. Tragikomično, nastaju još veći redovi nego prije. Zašto se toliko bojimo novog, tehnološki razvijenijeg?

Svaka nova tehnologija donosi promjene, a mi ljudi u načelu ipak ne volimo promjene. Pogotovo ne volimo promjene kada nam se čini da one dolaze prebrzo ili da nas dehumaniziraju. Nažalost, današnji način razvoja tehnologije i njezina ugradnja u društvo prečesto je motiviran isključivo profitom, bez nužnog promišljanja o društvenom i kulturnom kontekstu te svih mogućih posljedica, često neželjenih, uvođenja te tehnologije. Čini se da sve to vrlo dobro opisuje teorija tehnološkog determinizma, koja na razvoj tehnologije gleda kao na nezaustavljiv proces koji, eto, usputno determinira sve ostale društvene i kulturne vrijednosti. A od svih tehnologija koje smo razvili, umjetna inteligencija doista ima potencijal potpune determinacije svega drugoga što izvan nje još preostane.

EKONOMSKE I MORALNE DILEME

Na tome tragu, hoće li jednog dana ljudska radna snaga postati skroz nepotrebna?

Ekonomisti i futuristi razmatraju to kao jedan mogući scenarij. Ljudska fizička snaga sada je već uglavnom zamijenjena automatizacijom. Ako područje umjetne inteligencije uspije u svojem krajnjem cilju, razvoju umjetne opće inteligencije (AGI), niti ljudske mentalne vještine neće više biti potrebne, pa time neće postojati niti potreba za radom kao načinom stvaranja dobara. Ekonomisti se bave pitanjem kako posložiti društvo u kojemu nitko ne radi a svi sve imaju, moralni filozofi pitanjem hoće li doista baš svi sve imati, a psiholozi pitanjem ima li život bez rada uopće smisla (Voltaire je mislio da možda baš i ne). Drugi mogući scenarij je praktički ponavljanje scenarija prethodnih industrijskih revolucija, a to je da će daljnji razvoj umjetne inteligencije generirati nova radna mjesta i nova zanimanja. Ipak, totalnost umjetne opće inteligencije čini se da ne ostavlja baš prostora za takvo što.

Informatika se udomaćila u školama već od prvog razreda osnovne škole. Naravno, to je izazvalo nove podjele, između pobornika takvog izbora i onih koji smatraju da bismo djecu u toj dobi više trebali poučavati odgojno-pedagoškim vještina, a manje tipkanju po tabletima i tipkovnicama. Slažete li se?

Držim da je bitna mjera i namjera. Djecu treba podučavati i jednome i drugome, a kod usvajanja digitalnih vještina imperativno je da ih se nauči da je računalo alat koji treba služiti njima, a ne obrnuto. Prvo, dakle, treba osvijestiti namjeru korištenja, a onda odabrati alat koji je za to najprikladniji. Nažalost, ekonomija pažnje uspjela je kapitalizirati strah od dosade, pa sada djeca, a i mi stariji, posežemo za tehnologijom radi zabave. Takvo korištenje tehnologije štetno je za pojedinca i za društvo. Djecu treba podučiti digitalnim vještinama, jer bez tih vještina neće moći funkcionirati u svijetu u kojem živimo i u svijetu umjetne inteligencije koji dolazi, ali istovremeno im trebamo usaditi principe digitalnog minimalizma kako bi naučili tehnologiju koristiti tako da sebe i društvo učine boljim.

Koliko se na FER-u bavite umjetnom inteligencijom, koji postotak studenata baš „zagrize“ za to područje?

FER je nositelj velikog broja projekata u području umjetne inteligencije, ima niz istraživačkih laboratorija posvećenih različitim potpodručjima umjetne inteligencije, a prije tri godine je osnovao Centar za umjetnu inteligenciju kao najveći istraživački centar iz tog područja u Hrvatskoj, koji okuplja više oko 200 istraživača. Možemo također reći da velik broj, možda čak i većina studenata na FER-u svoje obrazovanje usmjerava prema primjenama umjetne inteligencije u područjima analize podataka, računarskoj znanosti i robotici, ali također u elektrotehnici, energetici, telekomunikacijama itd.

Ulažemo li kao država dovoljno u razvoj tog područja; ako ne, bismo li trebali?

Trebali bismo ulagati više, posebno u mladi nastavnički kadar koji je, s obzirom na svoju ekspertizu te stratešku i ekonomsku važnost ovog područja debelo potplaćen. Hrvatska ima jaku i uzbudljivu startup scenu umjetne inteligencije, zahvaljujući kojoj naši studenti ostaju u Hrvatskoj i svojim znanjem doprinose hrvatskoj ekonomiji, međutim sve će se to vrlo lako urušiti ako javna sveučilišta neće moći kvalitetno obavljati svoju zadaću obučavanja kvalitetnih inženjera i znanstvenika. Situacija u području računarstva vrlo je kritična.

Naši mladi robotičari i informatičari godinama su po natjecanjima u svjetskom su vrhu. Jesu li robotika i informatika, pa onda i AI, jedno od rijetkih područja gdje možemo kao država konkurirati na globalnoj tržišnoj utakmici, kad već od malih nogu stvaramo male genijalce?

Svakako! Čestitam svim vrijednim nastavnicima i promotorima znanosti koji svojim trudom sve to omogućavaju. Bez takvih entuzijasta ništa od toga ne bi bilo moguće. Trebamo prepoznati rad tih ljudi i učiniti sve da im olakšamo posao. Trebamo, naravno, u sve te inicijative i obrazovne procese privući još sposobnih ljudi.

SVIJEST RAČUNALA

Postoji li granica koju pri razvoju novih tehnologija ne bi trebalo prijeći?

Naravno, mnogo je granica koje ne želimo prijeći. Zato je važno oduprijeti se doktrini tehnološkog determinizma i kritički promišljati o svakoj tehnologiji, a posebno o umjetnoj inteligenciji. Činjenica da se nešto može napraviti ne smije biti razlogom da se to i napravi, kao što je to nažalost do sada često bivalo.

Kakve su šanse da stvorimo superinteligenciju, odnosno svjesno računalo?

Većina znanstvenika koji se bave umjetnom inteligencijom ili filozofijom uma smatraju da su superinteligencija i svijest dva međusobno nezavisna fenomena. Ako je to tako, superinteligentno računalo ne bi nužno moralo biti svjesno, dok svjesno računalo ne bi nužno moralo biti superinteligentno. Današnji napori u području umjetne inteligencije vode prema razvoju superinteligencije, ali o svjesnosti nemamo baš mnogo toga za reći. Naime, nemamo empirijskog načina da ispitamo postojanje svjesnosti u kognitivnim arhitekturama koje nisu ljudski mozgovi, pa se rasprave svode na (vrlo zanimljive) filozofske debate i misaone eksperimente, koji se doduše po AI krugovima povlače već nekoliko desetljeća, no sada su s pojavom ChatGPT-a ponovno aktualizirani. Ipak, većina znanstvenika u području umjetne inteligencije s podsmjehom gleda i na samu insinuaciju da bi ChatGPT mogao imati svijest (doduše, ne svi: prošle se godine Googleov inženjer drznuo izjaviti da je chatbot LaMBDA, koji poprilično nalikuje ChatGPT-u, razvio svijest, što ga je koštalo radnog mjesta). Čini se, dakle, da su šanse da stvorimo superinteligenciju velike i da rastu sa svakim novim iskorakom, dok o šansama da stvorimo svjesno računalo ne možemo govoriti dok napokon ne shvatimo fenomen svijesti, ako to uopće možemo i ako se tu opće ima što za shvatiti.

---

CRNI HOLUVUDSKI SCENARIJI

Bojite li se crnog SF scenarija, kao iz filmova Matrix ili Terminator, gdje će umjetna inteligencija postati apsolutno pobjednička i prevladavajuća vrsta na Zemlji?

Ne baš. Bojim se da ćemo se istrijebiti prije toga, ili da ćemo toliko otupiti od društvenih mreža da ćemo evolucijski regresirati.

Kada biste mogli birati, koju biste verziju budućnosti vi osobno izabrali – Matrix, gdje nas AI koristi kao izvore svog napajanja, kao AA baterije, ili Terminator, gdje nas umjetna inteligencija jednostavno želi istrijebiti?

Ovo drugo, jer ostavlja mogućnost da takva pobješnjela umjetna inteligencija bude poražena, a eliminira mogućnost besvjesne ili patničke egzistencije ljudi kao baterija. No, ako prije razvoja superinteligencije ne riješimo neke važne probleme (prije svega, probleme kontrole i poravnanja s ljudskim etičkim vrijednostima), izbor neće biti naš.

---

ZAGLUPLJUJE LI PAMETNA TELEFONIJA?

Udomaćio se kod nas izraz „smart phone / pametni telefon“. No, već je nekoliko stručnjaka, što tehničara što pedagoga, upozorilo da „što su nam telefoniji pametniji, to su nam djeca gluplja“. Komentar?

Pametni telefon je fantastičan inženjerski pothvat i uređaj koji nam omogućava da na dlanu pristupamo informacijama koje samo prije samo dvadesetak godina nisu bile dostupne ni najmoćnijim ljudima planeta. S druge strane, internet danas nije ono što je trebao biti i što je bio nekad. Danas dominantni poslovni model interneta temelji se na ekonomiji pažnje i vrlo perfidnom i učinkovitom iskorištavanju tog najvažnijeg resursa. Neke studije u području psihologije pokazale su da nekritična uporaba pametnih telefona, i digitalne tehnologije općenito, može, ako ništa drugo onda privremeno smanjiti kognitivne sposobnosti korisnika tih uređaja. Zbog toga je bitno naučiti koristiti tehnologiju kao alat, a ne biti rob tehnologije, čime korisnik zapravo postaje proizvod velikih tehnoloških kompanija.