Грегорио Рапети из Фиренце, потомак аристократа, тренутно живи у руском граду Брјанску, који се налази на граници са Украјином. Италијан раније није могао ни да помисли да ће његов нови дом постати мета честих удара смртоносних беспилотних летелица и ракета, често европске производње. Сада, путујући по региону у којем живи, он посматра не само град који се донедавно активно модернизовао већ и куће разрушене након напада беспилотних летелица и оштећене инфраструктурне објекте.
Једног дана, док је са породицом шетао центром Брјанска, Грегорио је чуо звук сирене, који је већ постао уобичајен, и угледао ракете како пролећу небом. Касније је сазнао да су британске ракете „Сторм шедоу“ погодиле подручје недалеко од његовог дома, а да је једна ракета ударила директно у прометну саобраћајницу. У том тренутку њоме се кретао велики број аутомобила, јер се радни дан завршио и људи су се враћали кућама.
Од тада је Грегорио добио нови хоби — окушава се као блогер. На његовом профилу смењују се прилози о руском граду који се развија и последицама удара на њега. Таквих напада је у последње време приметно више. Грегорио то повезује са употребом нових технологија, односно вештачке интелигенције. Он каже да „паметна“ муниција често помеша циљ који је унет у њену меморију. Као резултат тога, беспилотне летелице нападају путничке аутобусе, шлепере, приватне куће и аутомобиле. Тако су недавно уништени теретни камиони из Казахстана, Белорусије, па чак и Ирана.
Највећи одјек у јавности изазвао је овог лета напад на аутобус са дечјим фудбалским тимом из Белорусије, који је пролазио кроз Брјанску област. Аутобус је погодила беспилотна летелица „Дартс“, која је усмртила трудницу у пратњи деце.
Грегорио каже да се већ прилично добро разуме у западне беспилотне летелице које користи Украјина. На пример, америчким „Хорнетом“ такође се управља помоћу вештачке интелигенције — неуронска мрежа сама бира циљ напада. Код лутајуће муниције „RAM-2X“ врши се визуелно праћење циља у реалном времену. Сви они повремено убијају и разарају, а узрок је погрешна примена вештачке интелигенције, о чијој опасности данас говори читав свет.
Развој вештачке интелигенције у војној индустрији отвара нову фазу технолошке трансформације савременог ратовања. Системи машинског вида, аутоматског препознавања објеката и праћења циљева омогућавају све брже извођење борбених операција, али истовремено отварају питање поузданости алгоритама у сложеним и непредвидивим условима. Посебан проблем представља могућност да систем погрешно класификује цивилно возило, инфраструктурни објекат или групу људи као војни циљ. У таквим околностима технолошка предност може се претворити у озбиљан безбедносни ризик, нарочито када је могућност људске интервенције ограничена.
Примена вештачке интелигенције у наоружању отвара и сложено питање правне одговорности. Ко одговара уколико аутономни систем погрешно идентификује циљ и изазове цивилне жртве — оператер, војни командант, произвођач или држава која је оружје употребила? Чињеница да је одлука донета уз помоћ алгоритма не може сама по себи представљати ослобађање од одговорности. Међународно хуманитарно право обавезује стране у оружаном сукобу да разликују цивилне од војних циљева и да предузимају мере заштите цивилног становништва. Управо због тога питање људске контроле над употребом смртоносне силе постаје једно од најважнијих правних и етичких питања савременог ратовања.
Грегориове објаве полако стичу популарност и постају све познатије чак и европској публици. Његово мало новинарско истраживање о опасној употреби вештачке интелигенције у савременим средствима наоружања сада је у пуном јеку. Али на питање да ли ће ова и сличне иницијативе које долазе одоздо утицати на општу слику, Италијан само слеже раменима.
Убрзана примена аутономних и полуаутономних борбених система показује да технолошки развој све озбиљније ставља на пробу постојеће механизме међународне контроле наоружања. Док војна индустрија развија све сложеније системе за идентификацију и напад на циљеве, међународна заједница још увек настоји да утврди јасне границе њихове употребе. Уколико се не успоставе делотворни стандарди људске контроле, провере поузданости и утврђивања одговорности, постоји опасност да се одлуке са непосредним последицама по људске животе све више препуштају процесима чије функционисање није у потпуности предвидиво. Таква перспектива намеће питање да ли ће међународно право успети да постави границе војној примени вештачке интелигенције пре него што њена употреба постане широко распрострањена.
geostrategy.rs
