Вештачка интелигенција мора да остане под надзором и контролом људи и да се развија и користи у складу с међународним правом, наводи се између осталог у декларацији коју је усвојило 20 земаља, позивајући на међународну сарадњу у управљању ризицима, укључујући могућност оснивања глобалног надзорног тела.

Ова одлука је донета након што је неколико инжењера, који су креирали вештачку интелигенцију, изашли у јавност и рекло да њихов изум лако може да се отргне контроли и да поубија све људе, уништи цело човечанство и планету, а они не желе да сносе кривицу и на време упозоравају свет.

У декларацији се истиче да вештачка интелигенција има „потенцијал да побољша животе, унапреди науку и ојача економију“ али се упозорава да „брзи развој најнапреднијих модела АИ носи озбиљне ризике по безбедност и сигурност уколико се њима не управља на одговарајући начин“.

Декларацију, усвојену у понедељак на маргинама Генералне скупштине УН, подржали су, између осталих, Норвешка, Финска, Немачка, Холандија, Шпанија, Данска, Ирска, Канада, Аустралија, Јужноафричка Република, Сингапур и Турска, а међу потписницима је и председница Европске комисије Урсула фон дер Лајен.

САД, Израел и Кина, водеће земље у развоју вештачке интелигенције, нису хтеле да потпишу ову декларацију, као ни Велика Британија, Француска, Италија, Индија, Јапан.

Председник Финске Александар Стуб, један од иницијатора израде овог документа, рекао је да се нада да ће се већи број актера прикључити.

„Мислим да је у интересу и Кине и САД да имамо неку врсту сигурносног механизма. Наша порука је да нам је потребна људска интервенција, да људи имају главну реч“, рекао је Стуб за бриселски портал Политико.

У циљу управљања ризицима повезаним са најнапреднијим технологијама АИ, потписници декларације позивају компаније да развију „транспарентне безбедносне протоколе, укључујући обавезно тестирање пре пуштања у рад и независну процену“.

Владе и регионалне организације се позивају да развијају и координирају заједничке стандарде, јачају транспарентност, „укључујући заједничко извештавање о озбиљним безбедносним инцидентима“, и обезбеде да све земље имају приступ научним и стручним капацитетима и поузданим проценама.

„Државе чланице УН треба да надограде постојеће међународне механизме и размотре оснивање међународне институције која би поставила стандарде, омогућила верификацију и позвала државе када се прекораче прагови критичних способности“, наводи се у декларацији.

Стуб је за Политико рекао да се потписници залажу за оснивање нове институције, сличне Међународној агенцији за атомску енергију, у оквиру УН, али да то питање треба оставити отвореним „да људи не би одбацили иницијативу само зато што би била у оквиру УН“.

Као три главне опасности и разлога због којих недостатак ефикасног надзора АИ представља претњу, председник Финске је навео: биолошко оружје креирано помоћу АИ, сајбер нападе које изводе АИ агенти и роботи-убице који користе вештачку интелигенцију за смртоносне нападе.

Стуб је истакао да предности вештачке интелигенције могу бити много веће, ако се технологија правилно користи, укључујући „искорењивање болести, већа продуктивност, информације и многе друге ствари“.