Прочитај ми чланакПрошле недеље десило се нешто што је већина људи једва приметила. Два Амазон дата центра у Уједињеним Арапским Емиратима погођена су током иранске одмазде на америчке војне акције. Још један објекат у Бахреину оштећен је када је дрон пао у близини. Ранији напади, који су покренули одмазду, наводно су користили системе за циљање уз помоћ вештачке интелигенције.
Ово је био тренутак у вестима који је брзо потиснут следећом политичком причом, али импликације су огромне и не могу се игнорисати. Вештачка интелигенција сада је ушла у активни геополитички конфликт.
Инфраструктура која покреће дигитални свет – системи који чувају породичне фотографије, воде послове и одговарају на питања на нашим телефонима – постала је стратешка инфраструктура за ратне операције. Алгоритми уткани у цивилну технологију сада помажу да се одлучи где оружје погађа.
Човечанство је прешло границу, а већина нас то није приметила.
Историја нам показује да велике технолошке промене ретко долазе с драматичним тренутком. Оне прво излазе као сигнали у малим вестима, расправама о политикама или неочекиваним одласцима кључних људи из индустрије.
Још један сигнал појављује се готово у исто време.
Америчка влада је недавно уклонила АИ системе развијене од стране компаније Anthropic са својих мрежа. Недуго затим, OpenAI је потписао сопствени споразум о одбрани. Јавност не зна целу причу о променама. Не знамо који су захтеви постављени иза затворених врата, које етичке границе су оспораване и зашто је једна од водећих АИ компанија изненада избачена из федералних система.
Још један сигнал долази из саме АИ индустрије: одлазак истраживача безбедности.
У последњих неколико година бројни истакнути истраживачи задужени за проучавање ризика и безбедности напредних АИ система напустили су водеће компаније и лабораторије, често без икаквог објашњења. Одлазе јер су видели напетости које јавност још није имала прилику да види.
Историја има сличне примере. Почетком 1940-их научници на пројекту Менхетн схватили су да праве нешто без преседана. Бринули су се шта ће технологија значити када напусти лабораторију, али те дебате су се углавном водиле иза затворених врата. Јавност је схватила значај тек када је технологија већ употребљена.
Вештачка интелигенција сада прати сличан образац. Сигнали су јасни – истраживачи одлазе, владе расправљају о етичким границама, а АИ системи улазе у геополитичке конфликте.
Али јавна дебата и даље се води под погрешним претпоставкама:
Заблуда 1: АИ је само алат
Људи замишљају АИ као калкулатор или процесор текста – машину која ради оно што јој кажемо. Алати могу постати стратешки ресурси у рату, али АИ не функционише само по упутствима. Њено понашање настаје из огромних података и статистичких образаца, а не из линија кода. АИ се „развија“, не само прави.
Заблуда 2: АИ је неутрална
АИ учи из људских података, који одражавају историјске конфликте и пристрасности. Њени одговори изгледају објективно, али нису. Дебата око надзора и аутономног оружја јасно показује да границе постоје јер системи сами по себи нису неутрални.
Заблуда 3: Људи потпуно контролишу АИ
Традиционални софтвер ради по јасно дефинисаним упутствима. Модерна АИ функционише другачије. Њени одговори су вероватни, генерисани кроз слојеве учења. Програмери користе АИ да прави АИ и да управља другим АИ системима – толико брзо да не могу пратити или разумети сваку линију кода. Контрола је покретна граница, нова и тешко дефинисана.
Заблуда 4: Стручњаци знају где ово води
Мишљења унутар индустрије су разнолика. Неки верују да ће АИ револуционисати медицину и науку, док други упозоравају на озбиљне друштвене поремећаје ако развој надмаши људску мудрост. Међу њима је Џефри Хинтон, добитник Нобелове награде и оснивач модерне АИ науке.
Ове разлике не значе да катастрофа долази, али показују да чак и творци система нису сигурни куда то води.
Вештачка интелигенција се брзо интегрише у комуникацију, трговину, националну безбедност и управљање. Сигнали су свуда. АИ обликује нашу будућност без обзира да ли то желимо или не. Питање је да ли ћемо приметити сигнале на време или чекати док последице не постану неизбежне.
