Pročitaj mi članakProfesor Stjuart Rasel, autor udžbenika iz kojeg su učili skoro svi današnji izvršni direktori vodećih kompanija za veštačku inteligenciju, provodi 80 do 100 sati nedeljno pokušavajući da promeni tok istorije. Njegova poruka je jasna i zastrašujuća.
Dok veći deo sveta raspravlja o svakodnevnim političkim pitanjima poput imigracije i poreza, mali broj ljudi u Silicijumskoj dolini donosi odluke koje bi mogle da odrede da li će ljudska vrsta nastaviti da postoji. Profesor Stjuart Rasel, jedan od najuticajnijih glasova u oblasti veštačke inteligencije prema časopisu Tajm, upozorava da se nalazimo u neviđenom trenutku u istoriji.
Problem gorila kao ogledalo naše budućnosti
Profesor Rasel koristi fascinantnu analogiju da objasni situaciju u kojoj se čovečanstvo nalazi. Pre miliona godina, ljudska loza se evolucijom odvojila od loze gorila. Danas, gorile nemaju nikakvu reč o tome da li će nastaviti da postoje jer su ljudi daleko inteligentniji od njih. Kada bi ljudi to odlučili, mogli bi da izumru gorile za nekoliko nedelja, a gorile ne bi mogle ništa da urade povodom toga.
Ova analogija pokazuje da je inteligencija zapravo najvažniji faktor u kontroli planete Zemlje. Inteligencija je sposobnost da se postigne ono što se želi u svetu. Problem je što je čovečanstvo u procesu stvaranja nečeg inteligentnijeg od sebe. Ovo sugeriše da bismo mogli postati gorile u ovoj novoj dinamici. Rasel tvrdi da nema ništa loše u ovom razmišljanju i da bi trebalo duboko da nas zabrine.
Zašto trka ne prestaje uprkos rizicima
Kada se postavi logično pitanje zašto se razvoj ne zaustavlja ako je opasnost tako očigledna, odgovor leži u ekonomskoj atraktivnosti. Oni koji stvaraju ovu tehnologiju veruju da će ona imati ogromnu ekonomsku vrednost. Moći će da je koriste da zamene sve ljudske radnike na svetu, da razviju nove proizvode, lekove, oblike zabave i sve što ima ekonomsku vrednost.
Rasel procenjuje ekonomsku vrednost veštačke opšte inteligencije na 15 kvadriliona dolara. Ta suma deluje kao džinovski magnet u budućnosti, privlačeći sve ka sebi. Što smo bliži tom cilju, to je jača privlačnost i veća je verovatnoća da ćemo zaista stići do njega. Ljudi su spremniji da investiraju, i počinjemo da vidimo nusproizvode tog ulaganja, poput ChatGPT-a, koji generišu određene prihode.
Možda je to samo po sebi nešto što nas zastrašuje. Ljudi kao vrsta pridaju toliko značaja svojoj inteligenciji. Kada razmišljamo o vrhuncu ljudskih dostignuća, sa opštom umetničkom inteligencijom (OPI) bismo mogli da idemo mnogo dalje od toga. Veoma je primamljivo za ljude koji žele da stvore ovu tehnologiju, ali Rasel misli da se ljudi varaju ako misle da će ona prirodno biti kontrolisana.
Legenda o kralju Midi i naša sadašnjost
Rasel koristi legendu o kralju Midi da ilustruje zamku u kojoj se nalazimo. Kralj Mida je legendarni kralj koji je zamolio bogove da mu ispune želju da se sve čega se dotakne pretvori u zlato. Danas Midin dodir smatramo nečim dobrim, ali šta se zapravo dogodilo u legendi? Kada je otišao da pije vodu, voda se pretvorila u zlato. Kada je hteo da pojede jabuku, jabuka se pretvorila u zlato. Kada je hteo da uteši svoju ćerku, njena ćerka se pretvorila u zlato. Tako je umro u bedi i gladi.
Ova priča se na našu trenutnu situaciju odnosi na dva načina. Prvo, pohlepa nas tera da težimo tehnologiji koja će nas na kraju progutati i koja nam može pomoći da umremo u bedi i gladi. Drugo, priča pokazuje koliko je teško pravilno artikulisati kakvu želimo da budućnost bude. Dugo vremena, sistemi veštačke inteligencije su građeni tako da možete odrediti cilj, a zatim bi mašina shvatila kako da ga postigne i ostvari ga. Znamo kako da odredimo cilj u šahu, ali kako da odredimo cilj u životu? Kako želimo da izgleda budućnost? To je izuzetno teško reći.
Gotovo svaki pokušaj da se to zapiše dovoljno precizno da bi mašina mogla da to ostvari bio bi pogrešan. Davanje mašini cilja koji nije usklađen sa onim što zaista želimo da bude budućnost je zapravo postavljanje šahovske partije koju ćete izgubiti kada mašina postane dovoljno inteligentna.
Rukovodioci kompanija za veštačku inteligenciju igraju ruski rulet sa čovečanstvom
Ono što posebno brine profesora Rasela je činjenica da su izvršni direktori vodećih kompanija za veštačku inteligenciju potpuno svesni rizika, a ipak nastavljaju da ih razvijaju. Dario Amodei iz kompanije Anthropic procenjuje rizik od izumiranja na 25 procenata. Ilon Mask govori o 30 procenata šanse za izumiranje. Sam Altman je rekao da je stvaranje nadljudske inteligencije najveći rizik za ljudsko postojanje.
Rasel to opisuje direktno i bez ulepšavanja. Ovi ljudi igraju ruski rulet sa svakim ljudskim bićem na Zemlji bez naše dozvole. Ulaze u naše domove, upere pištolj u glavu naše dece, povlače obarač i govore da će možda svi umreti, ali da će možda postati neverovatno bogati. Da li su nas pitali? Ne. Zašto im vlada dozvoljava da to rade? Zato što mašu čekovima na 50 milijardi dolara pred vladama.
U maju 2023. godine, svi ovi direktori su potpisali izjavu poznatu kao Deklaracija o izumiranju. U njoj se u osnovi kaže da opšta industrijska eksplozija predstavlja rizik od izumiranja ravan nuklearnom ratu i pandemijama. Ali Rasel ne misli da to osećaju u stomaku. Zamislite da ste jedan od nuklearnih fizičara koji posmatra prvu nuklearnu eksploziju. Kako bi se osećali razmišljajući o potencijalnom uticaju nuklearnog rata na ljudsku rasu? Verovatno biste postali pacifista i rekli da je ovo oružje toliko strašno da moramo pronaći način da ga kontrolišemo. Još nismo stigli do te tačke sa ljudima koji donose ove odluke, a svakako nismo stigli do te tačke sa vladama.
Privatni razgovori koji bi šokirali javnost
Rasel je vodio mnogo privatnih razgovora sa ljudima iz sveta veštačke inteligencije, bilo da grade tehnologiju, istražuju je ili su izvršni direktori i osnivači koji su trenutno u trci za veštačku inteligenciju. Osećanja kojima šira javnost ne bi verovala, ali koja on privatno čuje, su šokantna. Ljudi veoma bliski ovim tehnološkim kompanijama su svesni rizika, ali ne osećaju da se bilo šta može učiniti, pa nastavljaju dalje. Deluje kao neka vrsta paradoksa.
Mora da je veoma teška pozicija. Radite nešto za šta znate da ima dobre šanse da vam okonča život, uključujući vaš sopstveni život i život vaše porodice. Oni osećaju da ne mogu da pobegnu iz ove trke. Ako bi izvršni direktor jedne od ovih kompanija rekao da više neće raditi na tome, jednostavno bi bio smenjen jer investitori ulažu svoj novac jer žele da stvore opštu inteligenciju i uberu plodove toga.
Čudna je situacija u kojoj svi, barem svi sa kojima je Rasel razgovarao, tako misle. Nije razgovarao sa Semom Altmanom o ovome, ali čak je i Altman pre nego što je postao direktor OpenAI-a rekao da je stvaranje nadljudske inteligencije najveći rizik za ljudsko postojanje koji postoji.
Čekaonica za katastrofe
Rasel je razgovarao sa jednim od izvršnih direktora vodeće kompanije za veštačku inteligenciju koji vidi dve mogućnosti. Ili bismo mogli imati malu katastrofu, recimo razmera Černobilja, nuklearne katastrofe u Ukrajini. Ta nuklearna elektrana je eksplodirala 1986. godine, usmrtivši direktno dosta ljudi, a možda i desetine hiljada indirektno kroz zračenje. Nedavne procene troškova su daleko preko triliona dolara.
To bi probudilo ljude. To bi primoralo vlade da sprovode regulacije. Ovaj reditelj je razgovarao sa vladama i one to neće učiniti. Dakle, on vidi katastrofu razmera Černobilja kao najbolji mogući scenario jer bi tada vlade regulisale i zahtevale da se sistemi veštačke inteligencije grade bezbedno. Alternativa je mnogo gora katastrofa gde jednostavno potpuno gubimo kontrolu.
Ne bi nužno bila nuklearna katastrofa. Mogao bi biti sistem veštačke inteligencije koji neko zloupotrebi, na primer da izazove pandemiju, ili sistem veštačke inteligencije koji nešto radi sam, poput rušenja finansijskog sistema ili komunikacionih sistema.
Iluzija kontrole i naivnost javnosti
Ljudi ponekad u komentarima kažu da će jednostavno izvući utikač iz utičnice. Raselu je to pomalo smešno. Čitajući komentare u novinama kad god se pojavi članak o veštačkoj inteligenciji, uvek će biti ljudi koji kažu da bi mogli jednostavno da izvuku utikač. Kao da se superinteligentna mašina nikada ne bi setila toga. Ne zaboravimo ko je gledao sve one filmove gde su pokušavali da izvuku utikač.
Druga stvar koju ljudi kažu je da sve dok nije svesno, nikada neće ništa uraditi. To potpuno promašuje poentu. Rasel ne misli da gorile sede i govore da bi sve bilo u redu da ovi ljudi nisu svesni. Naravno da ne. Ono što bi dovelo do izumiranja gorila su stvari koje ljudi rade, naše ponašanje, naša sposobnost da uspešno funkcionišemo u svetu.
Kada igrate šah protiv ajfona i izgubite, niko ne misli da gubi zato što je ajfon svestan. Gube jednostavno zato što je ajfon bolji u ovom malom svetu pomeranja figura da bi dobio ono što želi. Svest nema nikakve veze sa tim. Kompetentnost je ono što nas zanima.
Eksplozija inteligencije i tačka bez povratka
Sam Altman je rekao da u budućnosti veruje da neće biti potrebno mnogo podataka za obuku da bi se modeli sami poboljšali, jer dolazi tačka kada su modeli toliko pametni da mogu sami sebe da treniraju i poboljšavaju bez potrebe da im daju članke i knjige i pretražuju internet.
Tako bi trebalo da funkcioniše. Rasel misli da Altman misli na nešto čega se nekoliko kompanija sada brine da će početi da se dešava. Sistem veštačke inteligencije postaje sposoban da samostalno sprovodi istraživanje veštačke inteligencije. Postoji sistem sa određenom sposobnošću, grubo govoreći, mogli bismo ga nazvati koeficijentom inteligencije (II), iako to zapravo nije II. Recimo da ima II od 150 i koristi ga za istraživanje veštačke inteligencije, smišlja bolje algoritme ili bolje dizajne hardvera ili bolje načine korišćenja podataka, ažurira se. Sada ima II od 170 i sada radi više istraživanja veštačke inteligencije, osim što sada ima II od 170, tako da je još bolji u sprovođenju istraživanja veštačke inteligencije. U sledećoj iteraciji ima 250 i tako dalje.
Ovo je ideja o kojoj je jedan od prijatelja Alana Tjuringa pisao 1965. godine i nazvao je eksplozijom inteligencije. Jedna od stvari koju bi inteligentni sistem mogao da uradi jeste da istražuje veštačku inteligenciju i samim tim postane inteligentniji. To bi veoma brzo nestalo i ostavilo ljude daleko iza sebe.
Altman je rekao da smatra da je brzo poletanje moguće nego što je mislio pre nekoliko godina. U svom blogu pod nazivom „Nežna singularnost“ rekao je da smo možda već prošli horizont događaja poletanja. Horizont događaja je izraz pozajmljen iz astrofizike i odnosi se na crnu rupu. Ako smo izvan horizonta događaja, to znači da smo sada zarobljeni u gravitacionoj sile crne rupe, ili u ovom slučaju zarobljeni u neizbežnom klizanju ka opštoj singularnosti.
Budućnost bez svrhe
Šta znači biti čovek? To znači razmnožavati se, težiti ka stvarima, tragati za tvrdim stvarima. Ljudi su nekada lovili u otvorenoj savani da bi postigli ciljeve. Ako bi neko želeo da se popne na Mont Everest, poslednje što bi želeo je da ga neko podigne helikopterom i stavi na vrh. Ljudi će dobrovoljno težiti ka teškim stvarima, pa čak i ako bi mogli da nateraju robota da im izgradi ranč na parčetu zemlje, oni će izabrati da to urade sami jer je sama potraga nagrađujuća.
Ovo je već donekle očigledno u društvu gde je život postao toliko udoban da su ljudi sada opsednuti trčanjem maratona i ludim trkama izdržljivosti i učenjem kuvanja komplikovanih jela kada bi mogli jednostavno da ih naruče. Postoji prava vrednost u sposobnosti da se stvari rade i u samom činu njihovog rada.
Očigledna opasnost je svet poput onog u filmu VOL-I gde svi samo konzumiraju zabavu koja ne zahteva mnogo obrazovanja i ne vodi do bogatog, zadovoljavajućeg života. Rasel smatra da će dugoročno mnogi ljudi izabrati taj svet. U svemu ovome takođe nešto nedostaje, bilo da je u pitanju konzumiranje zabave ili bavljenje nečim poput kuvanja ili slikanja jer je zabavno i zanimljivo. Sve je to čisto sebično.
Jedan od razloga zašto radimo je taj što se osećamo cenjenim, osećamo da pomažemo drugim ljudima. Rasel se seća razgovora sa ženom u Engleskoj koja pomaže u vođenju pokreta hospisa. Ljudi koji rade u hospisima, gde su pacijenti bukvalno tu da umru, uglavnom su volonteri. Oni to ne rade za platu, ali smatraju da je neverovatno ispunjavajuće moći da provode vreme sa ljudima koji su u poslednjim nedeljama ili mesecima života, da im pruže društvo i sreću. U stvari, Rasel smatra da će međuljudske uloge biti mnogo važnije u budućnosti.
Nevidljiva pretnja koja menja sve
Kada razmišljamo o humanoidnim robotima i kako su oni protagonisti u ovoj priči o veštačkoj inteligenciji, postavlja se zanimljivo pitanje zašto je humanoidni oblik. Jedan od razloga je verovatno taj što su u svim naučnofantastičnim filmovima roboti humanoidni. Čak i u „Metropolisu“, filmu iz 1920-ih, roboti su humanoidni, u osnovi ljudi prekriveni metalom.
Sa praktične tačke gledišta, humanoidni oblik je užasan dizajn jer se prevrću. Želite da imate neku vrstu ruku sa više prstiju, ne mora to biti ruka, ali želite da imate barem pola tuceta dodataka kojima možete da hvatate i manipulišete stvarima. I potrebna vam je neka vrsta kretanja. Točkovi su odlični, osim što se ne penju uz stepenice i preko ivičnjaka. Tako da ćemo verovatno ostati zaglavljeni sa nogama. Ali četvoronožac sa dve ruke bi bio mnogo praktičniji.
Argument koji se iznosi je da smo izgradili ljudski svet tako da su svi fizički prostori kroz koje se krećemo, bilo da su to fabrike, naši domovi, ulice ili drugi javni prostori, svi dizajnirani upravo za ovaj fizički oblik. Ali psi se sasvim dobro kreću po našim domovima i ulicama. Kentaur bi takođe mogao da se kreće, ali može da nosi mnogo teži teret jer je četvoronožac. Mnogo je stabilniji. Ako treba da vozi automobil, može da savije dve noge i tako dalje.
Rasel smatra da su argumenti zašto mora biti upravo humanoidnog oblika neka vrsta ex post opravdanja. Više je kao da je u filmovima i jezivo je i kul, tako da bi trebalo da budu ljudi. To nije dobar inženjerski argument.
Šta možemo da uradimo?
Rasel smatra da prosečna osoba može da razgovara sa svojim predstavnikom, svojim poslanikom ili svojim kongresmenom. Možda zvuči klišeirano, ali Rasel veruje da kreatori politike treba da čuju glas naroda. Jedini glasovi koje trenutno čuju su tehnološke kompanije i njihovi čekovi od 50 milijardi dolara. Sve ankete koje su urađene pokazuju da većina ljudi, možda 80 odsto, ne želi superinteligentne mašine, ali ne znaju šta da rade.
Čak ni Rasel, koji je decenijama u ovoj oblasti, nije siguran šta da radi sa ovim džinovskim magnetom koji sve vuče napred i ogromnim sumama novca koje se ulažu. Ali on je siguran da ako želite budućnost i svet u kojem želite da vaša deca žive, morate da se vaš glas čuje. Vlade će slušati iz političke perspektive. One podižu prst u vazduh i pitaju se da li treba da stanu na stranu čovečanstva ili na stranu naših budućih robotskih vladara. Kao političaru, to nije teška odluka. To je kada vam neko kaže da će vam dati 50 milijardi dolara.
Rasel veruje da ljudi na pozicijama moći moraju da čuju od svojih birača da ovo nije pravac u kom želimo da idemo. Pošto je posvetio svoju karijeru ovoj temi i bio je osoba koja je napisao knjigu o veštačkoj inteligenciji, mora da shvati da živi u istorijskom trenutku. Veoma je malo trenutaka u životu kada neko može reći da je ovo jedan od tih trenutaka, raskrsnica u istoriji. Mora donekle da pretekne saznanje da je on osoba od uticaja u ovom istorijskom trenutku koja bi teoretski mogla da pomogne u preusmeravanju toka istorije.
Sa 50 godina, mogao bi da se penzioniše, igra golf, jedri i radi stvari koje voli. Umesto toga, radi 80 do 100 sati nedeljno pokušavajući da pokrene stvari u pravom smeru. Narativ u njegovoj glavi koji ga pokreće da to radi nije samo ispravna stvar, već je apsolutno neophodan. Nema veće motivacije od ove.
