Прочитај ми чланакПрофесор Стјуарт Расел, аутор уџбеника из којег су учили скоро сви данашњи извршни директори водећих компанија за вештачку интелигенцију, проводи 80 до 100 сати недељно покушавајући да промени ток историје. Његова порука је јасна и застрашујућа.
Док већи део света расправља о свакодневним политичким питањима попут имиграције и пореза, мали број људи у Силицијумској долини доноси одлуке које би могле да одреде да ли ће људска врста наставити да постоји. Професор Стјуарт Расел, један од најутицајнијих гласова у области вештачке интелигенције према часопису Тајм, упозорава да се налазимо у невиђеном тренутку у историји.
Проблем горила као огледало наше будућности
Професор Расел користи фасцинантну аналогију да објасни ситуацију у којој се човечанство налази. Пре милиона година, људска лоза се еволуцијом одвојила од лозе горила. Данас, гориле немају никакву реч о томе да ли ће наставити да постоје јер су људи далеко интелигентнији од њих. Када би људи то одлучили, могли би да изумру гориле за неколико недеља, а гориле не би могле ништа да ураде поводом тога.
Ова аналогија показује да је интелигенција заправо најважнији фактор у контроли планете Земље. Интелигенција је способност да се постигне оно што се жели у свету. Проблем је што је човечанство у процесу стварања нечег интелигентнијег од себе. Ово сугерише да бисмо могли постати гориле у овој новој динамици. Расел тврди да нема ништа лоше у овом размишљању и да би требало дубоко да нас забрине.
Зашто трка не престаје упркос ризицима
Када се постави логично питање зашто се развој не зауставља ако је опасност тако очигледна, одговор лежи у економској атрактивности. Они који стварају ову технологију верују да ће она имати огромну економску вредност. Моћи ће да је користе да замене све људске раднике на свету, да развију нове производе, лекове, облике забаве и све што има економску вредност.
Расел процењује економску вредност вештачке опште интелигенције на 15 квадрилиона долара. Та сума делује као џиновски магнет у будућности, привлачећи све ка себи. Што смо ближи том циљу, то је јача привлачност и већа је вероватноћа да ћемо заиста стићи до њега. Људи су спремнији да инвестирају, и почињемо да видимо нуспроизводе тог улагања, попут ChatGPT-а, који генеришу одређене приходе.
Можда је то само по себи нешто што нас застрашује. Људи као врста придају толико значаја својој интелигенцији. Када размишљамо о врхунцу људских достигнућа, са општом уметничком интелигенцијом (ОПИ) бисмо могли да идемо много даље од тога. Веома је примамљиво за људе који желе да створе ову технологију, али Расел мисли да се људи варају ако мисле да ће она природно бити контролисана.
Легенда о краљу Миди и наша садашњост
Расел користи легенду о краљу Миди да илуструје замку у којој се налазимо. Краљ Мида је легендарни краљ који је замолио богове да му испуне жељу да се све чега се дотакне претвори у злато. Данас Мидин додир сматрамо нечим добрим, али шта се заправо догодило у легенди? Када је отишао да пије воду, вода се претворила у злато. Када је хтео да поједе јабуку, јабука се претворила у злато. Када је хтео да утеши своју ћерку, њена ћерка се претворила у злато. Тако је умро у беди и глади.
Ова прича се на нашу тренутну ситуацију односи на два начина. Прво, похлепа нас тера да тежимо технологији која ће нас на крају прогутати и која нам може помоћи да умремо у беди и глади. Друго, прича показује колико је тешко правилно артикулисати какву желимо да будућност буде. Дуго времена, системи вештачке интелигенције су грађени тако да можете одредити циљ, а затим би машина схватила како да га постигне и оствари га. Знамо како да одредимо циљ у шаху, али како да одредимо циљ у животу? Како желимо да изгледа будућност? То је изузетно тешко рећи.
Готово сваки покушај да се то запише довољно прецизно да би машина могла да то оствари био би погрешан. Давање машини циља који није усклађен са оним што заиста желимо да буде будућност је заправо постављање шаховске партије коју ћете изгубити када машина постане довољно интелигентна.
Руководиоци компанија за вештачку интелигенцију играју руски рулет са човечанством
Оно што посебно брине професора Расела је чињеница да су извршни директори водећих компанија за вештачку интелигенцију потпуно свесни ризика, а ипак настављају да их развијају. Дарио Амодеи из компаније Anthropic процењује ризик од изумирања на 25 процената. Илон Маск говори о 30 процената шансе за изумирање. Сам Алтман је рекао да је стварање надљудске интелигенције највећи ризик за људско постојање.
Расел то описује директно и без улепшавања. Ови људи играју руски рулет са сваким људским бићем на Земљи без наше дозволе. Улазе у наше домове, упере пиштољ у главу наше деце, повлаче обарач и говоре да ће можда сви умрети, али да ће можда постати невероватно богати. Да ли су нас питали? Не. Зашто им влада дозвољава да то раде? Зато што машу чековима на 50 милијарди долара пред владама.
У мају 2023. године, сви ови директори су потписали изјаву познату као Декларација о изумирању. У њој се у основи каже да општа индустријска експлозија представља ризик од изумирања раван нуклеарном рату и пандемијама. Али Расел не мисли да то осећају у стомаку. Замислите да сте један од нуклеарних физичара који посматра прву нуклеарну експлозију. Како би се осећали размишљајући о потенцијалном утицају нуклеарног рата на људску расу? Вероватно бисте постали пацифиста и рекли да је ово оружје толико страшно да морамо пронаћи начин да га контролишемо. Још нисмо стигли до те тачке са људима који доносе ове одлуке, а свакако нисмо стигли до те тачке са владама.
Приватни разговори који би шокирали јавност
Расел је водио много приватних разговора са људима из света вештачке интелигенције, било да граде технологију, истражују је или су извршни директори и оснивачи који су тренутно у трци за вештачку интелигенцију. Осећања којима шира јавност не би веровала, али која он приватно чује, су шокантна. Људи веома блиски овим технолошким компанијама су свесни ризика, али не осећају да се било шта може учинити, па настављају даље. Делује као нека врста парадокса.
Мора да је веома тешка позиција. Радите нешто за шта знате да има добре шансе да вам оконча живот, укључујући ваш сопствени живот и живот ваше породице. Они осећају да не могу да побегну из ове трке. Ако би извршни директор једне од ових компанија рекао да више неће радити на томе, једноставно би био смењен јер инвеститори улажу свој новац јер желе да створе општу интелигенцију и уберу плодове тога.
Чудна је ситуација у којој сви, барем сви са којима је Расел разговарао, тако мисле. Није разговарао са Семом Алтманом о овоме, али чак је и Алтман пре него што је постао директор OpenAI-а рекао да је стварање надљудске интелигенције највећи ризик за људско постојање који постоји.
Чекаоница за катастрофе
Расел је разговарао са једним од извршних директора водеће компаније за вештачку интелигенцију који види две могућности. Или бисмо могли имати малу катастрофу, рецимо размера Чернобиља, нуклеарне катастрофе у Украјини. Та нуклеарна електрана је експлодирала 1986. године, усмртивши директно доста људи, а можда и десетине хиљада индиректно кроз зрачење. Недавне процене трошкова су далеко преко трилиона долара.
То би пробудило људе. То би приморало владе да спроводе регулације. Овај редитељ је разговарао са владама и оне то неће учинити. Дакле, он види катастрофу размера Чернобиља као најбољи могући сценарио јер би тада владе регулисале и захтевале да се системи вештачке интелигенције граде безбедно. Алтернатива је много гора катастрофа где једноставно потпуно губимо контролу.
Не би нужно била нуклеарна катастрофа. Могао би бити систем вештачке интелигенције који неко злоупотреби, на пример да изазове пандемију, или систем вештачке интелигенције који нешто ради сам, попут рушења финансијског система или комуникационих система.
Илузија контроле и наивност јавности
Људи понекад у коментарима кажу да ће једноставно извући утикач из утичнице. Раселу је то помало смешно. Читајући коментаре у новинама кад год се појави чланак о вештачкој интелигенцији, увек ће бити људи који кажу да би могли једноставно да извуку утикач. Као да се суперинтелигентна машина никада не би сетила тога. Не заборавимо ко је гледао све оне филмове где су покушавали да извуку утикач.
Друга ствар коју људи кажу је да све док није свесно, никада неће ништа урадити. То потпуно промашује поенту. Расел не мисли да гориле седе и говоре да би све било у реду да ови људи нису свесни. Наравно да не. Оно што би довело до изумирања горила су ствари које људи раде, наше понашање, наша способност да успешно функционишемо у свету.
Када играте шах против ајфона и изгубите, нико не мисли да губи зато што је ајфон свестан. Губе једноставно зато што је ајфон бољи у овом малом свету померања фигура да би добио оно што жели. Свест нема никакве везе са тим. Компетентност је оно што нас занима.
Експлозија интелигенције и тачка без повратка
Сам Алтман је рекао да у будућности верује да неће бити потребно много података за обуку да би се модели сами побољшали, јер долази тачка када су модели толико паметни да могу сами себе да тренирају и побољшавају без потребе да им дају чланке и књиге и претражују интернет.
Тако би требало да функционише. Расел мисли да Алтман мисли на нешто чега се неколико компанија сада брине да ће почети да се дешава. Систем вештачке интелигенције постаје способан да самостално спроводи истраживање вештачке интелигенције. Постоји систем са одређеном способношћу, грубо говорећи, могли бисмо га назвати коефицијентом интелигенције (ИИ), иако то заправо није ИИ. Рецимо да има ИИ од 150 и користи га за истраживање вештачке интелигенције, смишља боље алгоритме или боље дизајне хардвера или боље начине коришћења података, ажурира се. Сада има ИИ од 170 и сада ради више истраживања вештачке интелигенције, осим што сада има ИИ од 170, тако да је још бољи у спровођењу истраживања вештачке интелигенције. У следећој итерацији има 250 и тако даље.
Ово је идеја о којој је један од пријатеља Алана Тјуринга писао 1965. године и назвао је експлозијом интелигенције. Једна од ствари коју би интелигентни систем могао да уради јесте да истражује вештачку интелигенцију и самим тим постане интелигентнији. То би веома брзо нестало и оставило људе далеко иза себе.
Алтман је рекао да сматра да је брзо полетање могуће него што је мислио пре неколико година. У свом блогу под називом „Нежна сингуларност“ рекао је да смо можда већ прошли хоризонт догађаја полетања. Хоризонт догађаја је израз позајмљен из астрофизике и односи се на црну рупу. Ако смо изван хоризонта догађаја, то значи да смо сада заробљени у гравитационој силе црне рупе, или у овом случају заробљени у неизбежном клизању ка општој сингуларности.
Будућност без сврхе
Шта значи бити човек? То значи размножавати се, тежити ка стварима, трагати за тврдим стварима. Људи су некада ловили у отвореној савани да би постигли циљеве. Ако би неко желео да се попне на Монт Еверест, последње што би желео је да га неко подигне хеликоптером и стави на врх. Људи ће добровољно тежити ка тешким стварима, па чак и ако би могли да натерају робота да им изгради ранч на парчету земље, они ће изабрати да то ураде сами јер је сама потрага награђујућа.
Ово је већ донекле очигледно у друштву где је живот постао толико удобан да су људи сада опседнути трчањем маратона и лудим тркама издржљивости и учењем кувања компликованих јела када би могли једноставно да их наруче. Постоји права вредност у способности да се ствари раде и у самом чину њиховог рада.
Очигледна опасност је свет попут оног у филму ВОЛ-И где сви само конзумирају забаву која не захтева много образовања и не води до богатог, задовољавајућег живота. Расел сматра да ће дугорочно многи људи изабрати тај свет. У свему овоме такође нешто недостаје, било да је у питању конзумирање забаве или бављење нечим попут кувања или сликања јер је забавно и занимљиво. Све је то чисто себично.
Један од разлога зашто радимо је тај што се осећамо цењеним, осећамо да помажемо другим људима. Расел се сећа разговора са женом у Енглеској која помаже у вођењу покрета хосписа. Људи који раде у хосписима, где су пацијенти буквално ту да умру, углавном су волонтери. Они то не раде за плату, али сматрају да је невероватно испуњавајуће моћи да проводе време са људима који су у последњим недељама или месецима живота, да им пруже друштво и срећу. У ствари, Расел сматра да ће међуљудске улоге бити много важније у будућности.
Невидљива претња која мења све
Када размишљамо о хуманоидним роботима и како су они протагонисти у овој причи о вештачкој интелигенцији, поставља се занимљиво питање зашто је хуманоидни облик. Један од разлога је вероватно тај што су у свим научнофантастичним филмовима роботи хуманоидни. Чак и у „Метрополису“, филму из 1920-их, роботи су хуманоидни, у основи људи прекривени металом.
Са практичне тачке гледишта, хуманоидни облик је ужасан дизајн јер се преврћу. Желите да имате неку врсту руку са више прстију, не мора то бити рука, али желите да имате барем пола туцета додатака којима можете да хватате и манипулишете стварима. И потребна вам је нека врста кретања. Точкови су одлични, осим што се не пењу уз степенице и преко ивичњака. Тако да ћемо вероватно остати заглављени са ногама. Али четвороножац са две руке би био много практичнији.
Аргумент који се износи је да смо изградили људски свет тако да су сви физички простори кроз које се крећемо, било да су то фабрике, наши домови, улице или други јавни простори, сви дизајнирани управо за овај физички облик. Али пси се сасвим добро крећу по нашим домовима и улицама. Кентаур би такође могао да се креће, али може да носи много тежи терет јер је четвороножац. Много је стабилнији. Ако треба да вози аутомобил, може да савије две ноге и тако даље.
Расел сматра да су аргументи зашто мора бити управо хуманоидног облика нека врста ex post оправдања. Више је као да је у филмовима и језиво је и кул, тако да би требало да буду људи. То није добар инжењерски аргумент.
Шта можемо да урадимо?
Расел сматра да просечна особа може да разговара са својим представником, својим послаником или својим конгресменом. Можда звучи клишеирано, али Расел верује да креатори политике треба да чују глас народа. Једини гласови које тренутно чују су технолошке компаније и њихови чекови од 50 милијарди долара. Све анкете које су урађене показују да већина људи, можда 80 одсто, не жели суперинтелигентне машине, али не знају шта да раде.
Чак ни Расел, који је деценијама у овој области, није сигуран шта да ради са овим џиновским магнетом који све вуче напред и огромним сумама новца које се улажу. Али он је сигуран да ако желите будућност и свет у којем желите да ваша деца живе, морате да се ваш глас чује. Владе ће слушати из политичке перспективе. Оне подижу прст у ваздух и питају се да ли треба да стану на страну човечанства или на страну наших будућих роботских владара. Као политичару, то није тешка одлука. То је када вам неко каже да ће вам дати 50 милијарди долара.
Расел верује да људи на позицијама моћи морају да чују од својих бирача да ово није правац у ком желимо да идемо. Пошто је посветио своју каријеру овој теми и био је особа која је написао књигу о вештачкој интелигенцији, мора да схвати да живи у историјском тренутку. Веома је мало тренутака у животу када неко може рећи да је ово један од тих тренутака, раскрсница у историји. Мора донекле да претекне сазнање да је он особа од утицаја у овом историјском тренутку која би теоретски могла да помогне у преусмеравању тока историје.
Са 50 година, могао би да се пензионише, игра голф, једри и ради ствари које воли. Уместо тога, ради 80 до 100 сати недељно покушавајући да покрене ствари у правом смеру. Наратив у његовој глави који га покреће да то ради није само исправна ствар, већ је апсолутно неопходан. Нема веће мотивације од ове.
