Ostavke u Guglu zbog ugovora sa američkom vojskom

Gugl je naišao na oštru reakciju zaposlenih zbog upotrebe veštačke inteligencije u vojne svrhe.

BBC je razgovarao sa nekoliko tehnoloških radnika koji su ili nedavno dali otkaz u Guglovoj kompaniji za veštačku inteligenciju Google DeepMind ili su u procesu odlaska zbog zabrinutosti oko vojnih ugovora ove firme.

Sofija Liguori, inženjerka istraživačica iz Londona, jedna je od njih.

Podnela je ostavku u Google DeepMind-u ove nedelje i ekskluzivno govori za BBC, uprkos tome što joj njen ugovor to ne dozvoljava.

„Otkako sam shvatila da moja kompanija gura sve više sistema veštačke inteligencije u vojne operacije, sramota me je što radim za Gugl", rekla je Liguori, govoreći u privatnom svojstvu.

Portparol Gugla odgovorio je za BBC: „Mi sarađujemo sa organizacijama iz javnog sektora iz čitavog sveta i pratimo dosledan proces provere i ulazaka u te ugovore, u šta spada i poštovanje naše politike i načela veštačke inteligencije.“

„Imamo i specijalno otvorene kanale za zaposlene, gde mogu da prijave bilo kakvu zabrinutost - od poslovne etike do neprofesionalnog ponašanja - i strogu politiku ophođenja na radnom mestu, da bismo sprečili odmazdu bilo kakve vrste.“

Gugl je jedna od nekoliko tehnoloških kompanija koje su potpisale ugovore sa vojskom Sjedinjenih Američkih Država početkom ove godine za upotrebu veštačke inteligencije u širokom dijapazonu strogo poverljivih vojnih okruženja.

Američki ministar odbrane Pit Hegset proglasio je integrisanje veštačke inteligencije u oružane snage ključnim prioritetom, rekavši da će Trampova administracija postati „ratnička sila sa veštačkom inteligencijom na prvom mestu“.

Ali tehnologija veštačke inteligencije se razvija munjevitom brzinom i kritičari dovode u pitanje da li je dovoljno pouzdana da bi se koristila u ratovanju bez dodatnog testiranja, jače zaštite i ljudskog nadzora.

Nakon što je radila za kompaniju tri godine, Liguori je rekla da je odlučila da podnese ostavku zbog Guglovog sve veće saradnje sa američkom i izraelskom vojskom.

„Ne slažem se s ovim pravcem i to je dovelo do gubitka poverenja u obećanje moje kompanije da će ostati verna deklarisanim etičkim ciljevima“, kaže ona.

Te vrednosti, prema Guglovim načelima veštačke inteligencije, obuhvataju primenu veštačke inteligencije sa „ljudskim nadzorom“ i usklađivanje tehnologije sa „međunarodnim pravom i ljudskim pravima“.

Bivše i aktuelno osoblje u kompaniji, kao i stručnjaci sa kojima je razgovarao BBC, rekli su da ih brine stepen ljudskog nadzora u kritičnim trenucima.

Tehnološki radnici su rekli da ih posebno brinu ugovori sa vojskom oko veštačke inteligencije potpisani ove godine, zato što umnogome uvećavaju raspon onoga za šta Pentagon može da koristi tu tehnologiju.

Andreas Kirš, istraživač veštačke inteligencije, takođe je podneo ostavku u Google DeepMind-u početkom ovog meseca jer je zabrinut u kom pravcu to sve ide.

Kirš je rekao za BBC kako veruje da „Guglovo upravljanje i nadzor nisu dovoljni ili dovoljno značajni da bi se bezbedno i odgovorno koristila veštačka inteligencija u vojsci i strogo poverljivim okruženjima“ ili „da bi se veštačka superinteligencija razvijala bezbedno u budućnosti“.

„Izgleda da Gugl nema pravo da kontroliše ili stavi veto na to kako Pentagon koristi veštačku inteligenciju, a takođe izgleda da je ovaj smanjio vidljivost u to kako je koristi“, dodao je on.

U poslednjih nekoliko godina, američka vojska je upotrebila više tehnologija zasnovanih na veštačkoj inteligenciji kako bi pojačala vlastitu sposobnost ratovanja.

Najistaknutiji primer ovoga je Mejven Smart Sistemi, Pentagonova glavna softverska platforma za organizovanje obaveštajnog rada i podataka.

Izrađena u američkoj odbrambenoj kompaniji Palantir, ona koristi veštačku inteligenciju da pomogne osoblju da odabere i identifikuje mete koje će napasti.

Palantir je integrisao tehnologiju nekoliko vodećih kompanija za veštačku inteligenciju u Mejven i omogućio da se neki procesi značajno ubrzaju.

Penzionisani general potpukovnik Džek Šanahan, bivši direktor Projekta Mejven, rekao da izgleda kao da se ta „filozofija“ svodi na:

„Primeni tehnologiju veštačke inteligencije što brže možeš na što širu oblast, potencijalno po cenu strogosti i discipline testiranja i procene.“

Međutim, Pentagon ostaje pri tome da je usvajanje tehnologija veštačke inteligencije ključno za dobijanje ratova.

„Brzina definiše pobedu u eri veštačke inteligencije“, rekao je Emil Majkl, podsekretar u američkom Ministarstvu odbrane, u saopštenju početkom godine.

Guglov ugovor sa Pentagonom, potpisan početkom godine, omogućava njegovoj tehnologiji veštačke inteligencije da se koristi za strogo poverljiv vojni rad.

Prema tom sporazumu, Guglovi modeli veštačke inteligencije mogu da se koriste u „bilo koje zakonske vladine svrhe“ i „ne smeju da se koriste za domaći masovni nadzor ili autonomna oružja (u šta spada i odabir meta) bez odgovarajućeg ljudskog nadzora i kontrole“.

Slične ugovore potpisali su OpenAI, Amazon, Majkrosoft, Spejs Iks, Orakl, Nvidija, i start-ap Riflekšn, kako bi omogućili tehnologiji veštačke inteligencije da bude primenjena u širokom dijapazonu vojnih okruženja kao što su transport, planiranje i operacije na bojištu.

Kako se ova tehnologija brzo razvija, raste zabrinutost za upotrebu veštačke inteligencije na ratištima.

„Veštačka inteligencija sažima vreme koje operater ima za donošenje odluka zato što radi mnogo brže od osobe, a to je posebno riskantno u okruženju visokog stresa“, kaže Sara Šoker, bivša šefica geopolitičkog tima OpenAI-ja.

„Kad imate stotine meta koje je odabrala veštačka inteligencija i veoma kratak vremenski raspon, gotovo je nemoguće za ljudskog operatera da značajno pregleda rezultate veštačke inteligencije u potrazi za greškama.“

Zaposleni u Guglu rekli su za BBC da se osoblje plaši da govori o bezbednosti veštačke inteligencije i njenoj upotrebu u ratu jer im ugovori o zaposlenju zabranjuju da javno kritikuju kompaniju.

„U načelu mi nije dozvoljeno da kritikujem Gugl do kraja života“, rekla je Sofija Liguori za BBC.

Ali je ona odlučila da ipak to uradi „zato što verujem da je važno da se ove stvari znaju a takođe mislim da razgovor o stvarima nije kritika.“

Liguori je dodala da se u Guglu „ljudi plaše odmazde i rizikuju karijere. Osećate se kao da vas posmatraju, ne smete da govorite“.

Aktuelni zaposlenik u Google DeepMind-u, koji je odbio da bude imenovan iz straha od odmazde, rekao je za BBC da bi „mnogo motivisanih zaposlenih koji su se prijavili zbog originalne misije moglo da ode – ali tu je i čitav red ljudi na početku karijera koji bi mogli da popune ta mesta. Moglo bi da dođe do promene garde.“

Još jedan član osoblja Google DeepMind-a, koji je takođe želeo da ostane anoniman, rekao je za BBC: „Mnogo ljudi je napustilo kompaniju koji ne mogu da ignorišu to kako je Google DeepMind promenio etički stav.“

„Neki ljudi pružaju otpor, drugi razmišljaju: 'To je velika kompanija. Šta očekujete da se promeni?'“, ispričao je ovaj zaposleni.

Guglovi sporazumi sa Izraelom takođe su izazvali kontroverzu.

Godine 2024, osoblje je kritikovalo kompaniju zbog zajedničkog ugovora sa Amazonom vrednim 1,2 milijardi dolara zvanim Projekt Nimbus koji izraelsku vladu i vojsku opskrbljuje tehnologijom veštačke inteligencije i infrastrukturom kompjuterskog „oblaka“.

U ono vreme, Gugl je izjavio da Projekat Nimbus „nije usmeren ka visoko osetljivom, klasifikovanom ili vojnom radu relevantnom za naoružanje ili obaveštajne usluge.“

Nadalje, izraelske sposobnosti veštačke inteligencije u ratnim dejstvima našle su se u središtu rasprave nakon što su se pojavile u skorašnjem dokumentarcu „Naza", koji istražuje ulogu sistema za ciljanje zasnovanog na veštačkoj inteligenciji za bombardovanje Pojasa Gaze, što je dovelo do velikog broja civilnih žrtava.

Izraelski ministar iz vlade rekao je da su tvrdnje iznete u filmu lažne i izvitoperene.

Bivši zaposleni u Guglu Andreas Kirš veruje da tehnologija veštačke inteligencije za ratovanje još nije spremna za bojišta.

„Aktuelni modeli veštačke inteligencije nisu dovoljno stabilni, a ne mislim ni da su obučeni za takve zadatke“, rekao je on.

Dodatno izveštavanje: Roza Rahimi

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu, Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk