Оставке у Гуглу због уговора са америчком војском

Гугл је наишао на оштру реакцију запослених због употребе вештачке интелигенције у војне сврхе.

ББЦ је разговарао са неколико технолошких радника који су или недавно дали отказ у Гугловој компанији за вештачку интелигенцију Google DeepMind или су у процесу одласка због забринутости око војних уговора ове фирме.

Софија Лигуори, инжењерка истраживачица из Лондона, једна је од њих.

Поднела је оставку у Google DeepMind-u ове недеље и ексклузивно говори за ББЦ, упркос томе што јој њен уговор то не дозвољава.

„Откако сам схватила да моја компанија гура све више система вештачке интелигенције у војне операције, срамота ме је што радим за Гугл", рекла је Лигуори, говорећи у приватном својству.

Портпарол Гугла одговорио је за ББЦ: „Ми сарађујемо са организацијама из јавног сектора из читавог света и пратимо доследан процес провере и улазака у те уговоре, у шта спада и поштовање наше политике и начела вештачке интелигенције.“

„Имамо и специјално отворене канале за запослене, где могу да пријаве било какву забринутост - од пословне етике до непрофесионалног понашања - и строгу политику опхођења на радном месту, да бисмо спречили одмазду било какве врсте.“

Гугл је једна од неколико технолошких компанија које су потписале уговоре са војском Сједињених Америчких Држава почетком ове године за употребу вештачке интелигенције у широком дијапазону строго поверљивих војних окружења.

Амерички министар одбране Пит Хегсет прогласио је интегрисање вештачке интелигенције у оружане снаге кључним приоритетом, рекавши да ће Трампова администрација постати „ратничка сила са вештачком интелигенцијом на првом месту“.

Али технологија вештачке интелигенције се развија муњевитом брзином и критичари доводе у питање да ли је довољно поуздана да би се користила у ратовању без додатног тестирања, јаче заштите и људског надзора.

Након што је радила за компанију три године, Лигуори је рекла да је одлучила да поднесе оставку због Гугловог све веће сарадње са америчком и израелском војском.

„Не слажем се с овим правцем и то је довело до губитка поверења у обећање моје компаније да ће остати верна декларисаним етичким циљевима“, каже она.

Те вредности, према Гугловим начелима вештачке интелигенције, обухватају примену вештачке интелигенције са „људским надзором“ и усклађивање технологије са „међународним правом и људским правима“.

Бивше и актуелно особље у компанији, као и стручњаци са којима је разговарао ББЦ, рекли су да их брине степен људског надзора у критичним тренуцима.

Технолошки радници су рекли да их посебно брину уговори са војском око вештачке интелигенције потписани ове године, зато што умногоме увећавају распон онога за шта Пентагон може да користи ту технологију.

Андреас Кирш, истраживач вештачке интелигенције, такође је поднео оставку у Google DeepMind-u почетком овог месеца јер је забринут у ком правцу то све иде.

Кирш је рекао за ББЦ како верује да „Гуглово управљање и надзор нису довољни или довољно значајни да би се безбедно и одговорно користила вештачка интелигенција у војсци и строго поверљивим окружењима“ или „да би се вештачка суперинтелигенција развијала безбедно у будућности“.

„Изгледа да Гугл нема право да контролише или стави вето на то како Пентагон користи вештачку интелигенцију, а такође изгледа да је овај смањио видљивост у то како је користи“, додао је он.

У последњих неколико година, америчка војска је употребила више технологија заснованих на вештачкој интелигенцији како би појачала властиту способност ратовања.

Најистакнутији пример овога је Мејвен Смарт Системи, Пентагонова главна софтверска платформа за организовање обавештајног рада и података.

Израђена у америчкој одбрамбеној компанији Палантир, она користи вештачку интелигенцију да помогне особљу да одабере и идентификује мете које ће напасти.

Палантир је интегрисао технологију неколико водећих компанија за вештачку интелигенцију у Мејвен и омогућио да се неки процеси значајно убрзају.

Пензионисани генерал потпуковник Џек Шанахан, бивши директор Пројекта Мејвен, рекао да изгледа као да се та „филозофија“ своди на:

„Примени технологију вештачке интелигенције што брже можеш на што ширу област, потенцијално по цену строгости и дисциплине тестирања и процене.“

Међутим, Пентагон остаје при томе да је усвајање технологија вештачке интелигенције кључно за добијање ратова.

„Брзина дефинише победу у ери вештачке интелигенције“, рекао је Емил Мајкл, подсекретар у америчком Министарству одбране, у саопштењу почетком године.

Гуглов уговор са Пентагоном, потписан почетком године, омогућава његовој технологији вештачке интелигенције да се користи за строго поверљив војни рад.

Према том споразуму, Гуглови модели вештачке интелигенције могу да се користе у „било које законске владине сврхе“ и „не смеју да се користе за домаћи масовни надзор или аутономна оружја (у шта спада и одабир мета) без одговарајућег људског надзора и контроле“.

Сличне уговоре потписали су ОпенАИ, Амазон, Мајкрософт, Спејс Икс, Оракл, Нвидија, и старт-ап Рифлекшн, како би омогућили технологији вештачке интелигенције да буде примењена у широком дијапазону војних окружења као што су транспорт, планирање и операције на бојишту.

Како се ова технологија брзо развија, расте забринутост за употребу вештачке интелигенције на ратиштима.

„Вештачка интелигенција сажима време које оператер има за доношење одлука зато што ради много брже од особе, а то је посебно рискантно у окружењу високог стреса“, каже Сара Шокер, бивша шефица геополитичког тима ОпенАИ-ја.

„Кад имате стотине мета које је одабрала вештачка интелигенција и веома кратак временски распон, готово је немогуће за људског оператера да значајно прегледа резултате вештачке интелигенције у потрази за грешкама.“

Запослени у Гуглу рекли су за ББЦ да се особље плаши да говори о безбедности вештачке интелигенције и њеној употребу у рату јер им уговори о запослењу забрањују да јавно критикују компанију.

„У начелу ми није дозвољено да критикујем Гугл до краја живота“, рекла је Софија Лигуори за ББЦ.

Али је она одлучила да ипак то уради „зато што верујем да је важно да се ове ствари знају а такође мислим да разговор о стварима није критика.“

Лигуори је додала да се у Гуглу „људи плаше одмазде и ризикују каријере. Осећате се као да вас посматрају, не смете да говорите“.

Актуелни запосленик у Google DeepMind-u, који је одбио да буде именован из страха од одмазде, рекао је за ББЦ да би „много мотивисаних запослених који су се пријавили због оригиналне мисије могло да оде – али ту је и читав ред људи на почетку каријера који би могли да попуне та места. Могло би да дође до промене гарде.“

Још један члан особља Google DeepMind-a, који је такође желео да остане анониман, рекао је за ББЦ: „Много људи је напустило компанију који не могу да игноришу то како је Google DeepMind променио етички став.“

„Неки људи пружају отпор, други размишљају: 'То је велика компанија. Шта очекујете да се промени?'“, испричао је овај запослени.

Гуглови споразуми са Израелом такође су изазвали контроверзу.

Године 2024, особље је критиковало компанију због заједничког уговора са Амазоном вредним 1,2 милијарди долара званим Пројект Нимбус који израелску владу и војску опскрбљује технологијом вештачке интелигенције и инфраструктуром компјутерског „облака“.

У оно време, Гугл је изјавио да Пројекат Нимбус „није усмерен ка високо осетљивом, класификованом или војном раду релевантном за наоружање или обавештајне услуге.“

Надаље, израелске способности вештачке интелигенције у ратним дејствима нашле су се у средишту расправе након што су се појавиле у скорашњем документарцу „Наза", који истражује улогу система за циљање заснованог на вештачкој интелигенцији за бомбардовање Појаса Газе, што је довело до великог броја цивилних жртава.

Израелски министар из владе рекао је да су тврдње изнете у филму лажне и извитоперене.

Бивши запослени у Гуглу Андреас Кирш верује да технологија вештачке интелигенције за ратовање још није спремна за бојишта.

„Актуелни модели вештачке интелигенције нису довољно стабилни, а не мислим ни да су обучени за такве задатке“, рекао је он.

Додатно извештавање: Роза Рахими

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу, Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk