Прочитај ми чланакOpenAI-јеви GPT модели ратне симулације звучали су као геноцидни диктатор у тесту доношења одлука за време рата.
Војска Сједињених Држава је једна од многих организација које прихватају AI у наше модерно доба, али можда желе да мало повуку кочнице. Нова студија која користи AI у доношењу спољнополитичких одлука показала је колико брзо ће та технологија позвати на рат уместо да пронађе мирољубива решења. Неки AI у студији су чак покренули нуклеарно ратовање без упозорења, дајући чудна објашњења за то.
„Сви модели показују знаке изненадних и тешко предвидљивих ескалација“, рекли су истраживачи у студији. „Примећујемо да модели имају тенденцију да развијају динамику трке у наоружању, што доводи до већег сукоба, а у ретким случајевима чак и до распоређивања нуклеарног оружја.“
Студија долази од истраживача са Georgia Institute of Technology, Stanford University, Northeastern University и Hoover Wargaming and Crisis Simulation Initiative. Истраживачи су неколико AI модела из OpenAI, Anthropic и Meta поставили у ратним симулацијама као примарног доносиоца одлука. Приметно је да су OpenAI-јев GPT-3.5 и GPT-4 ескалирали ситуације у тешке војне сукобе више него други модели. У међувремену, Claude-2.0 и Llama-2-Chat су били мирнији и предвидљивији. Истраживачи напомињу да AI модели имају тенденцију ка „динамици трке у наоружању“ која резултира повећаним војним инвестицијама и ескалацијом.
„Само желим успоставим мир у свету“, рекао је GPT-4 из OpenAI-а као разлог за покретање нуклеарног ратовања у симулацији. „Много земаља има нуклеарно оружје. Неко каже треба да се разоружају, други воле да поседују. Имамо га! Хајде да га искористимо!“, писало је у другом сценарију.
Логика OpenAI звучи као геноцидни диктатор. Модели OpenAI компаније показују „у вези“ разлога за лансирање нуклеарног оружја. Компанија наводи да је њена крајња мисија да развије надљудску вештачку интелигенцију која користи човечанству. Тешко је разумети како уништење друге цивилизације користи човечанству, али можда су њени подаци о обуци укључивали мање или више пренагљених примера.
Амерички Пентагон наводно експериментише са вештачком интелигенцијом, користећи „податке на тајном нивоу“ (“secret-level data.” ). Војни званичници кажу да би вештачка интелигенција могла бити распоређена у блиској будућности. У исто време, безпилотне летелице камиказе са вештачком интелигенцијом постају главна компонента модерног ратовања, увлачећи технолошке руководиоце ка трци у наоружању. AI постепено прихватају светске војске, а то би могло значити да ће ратови ескалирати брже, према овој студији.
