Pročitaj mi članakDemis Hasabis, generalni direktor Gugl Dipmajnda, upozorio je da razvoj veštačke opšte inteligencije (AGI) može doneti „katastrofalne posledice“, uključujući sajbernapade na energetsku ili vodovodnu infrastrukturu. On je naveo da bi AGI mogla biti u upotrebi već u narednoj deceniji.
Govoreći prošle nedelje na samitu Axios AI+ u San Fransisku, Hasabis je opisao AGI kao model koji poseduje „sve kognitivne sposobnosti“ čoveka, uključujući kreativnost i inventivnost.
Po njegovim rečima, sadašnji veliki jezički modeli i dalje su „iscepkane inteligencije“ sa ozbiljnim ograničenjima u rasuđivanju, dugoročnom planiranju i kontinuiranom učenju. Ipak, uz dalji rast i širenje modela i „još jedan ili dva velika proboja“, AGI bi ubrzo mogla postati stvarnost.
Istovremeno, Hasabis priznaje da će period koji vodi ka AGI najverovatnije doneti konkretne rizike i „katastrofalne ishode“, kao što su napadi na ključnu infrastrukturu. „To se verovatno već gotovo dešava… možda još ne uz veoma sofisticiranu veštačku inteligenciju“, rekao je, nazvavši ovo „najočiglednijim ranjivim vektorom“. Dodao je da zlonamerni akteri, autonomni agenti i sistemi koji „skrenu“ od zadatih ciljeva zahtevaju ozbiljne mere ublažavanja rizika. O mogućnosti da napredni sistemi „preskoče zaštitnu ogradu“ rekao je samo: „Nije nula.“
Hasabisova upozorenja odzvanjaju širim strahovima u tehnološkoj industriji. Otvoreno pismo objavljeno u oktobru, koje su potpisale vodeće tehnološke i javne ličnosti, tvrdi da bi „superinteligentni“ sistemi mogli ugroziti slobodu čovečanstva ili čak njegov opstanak, pozivajući na globalnu zabranu razvoja AI dok se ne obezbedi bezbednost. Među potpisnicima su suosnivač Epla Stiv Voznijak, pioniri veštačke inteligencije Džefri Hinton i Jošua Benđio, osnivač Virdžina Ričard Brenson i brojni političari i kulturni radnici.
Drugi, međutim, gledaju optimističnije. Ilon Mask je prošlog meseca izjavio da bi napredak u AI i robotici mogao učiniti rad „opcionim“ u roku od 10 do 20 godina i predvideo da bi novac mogao postati „irelevantan“ u ekonomiji koju pokreće AI, mada je istakao da je potreban značajan tehnološki napredak da bi takav svet postao moguć.
