'Одбегли АИ' и хакерски инциденти: Трамп о контроли вештачке интелигенције

Технолошки свет данима потреса скандал због којег је морао да реагује и Доналд Трамп, председник Сједињених Америчких Држава.

Хагинг фејс (Хуггинг Фаце), својеврсна продавница апликација за алатке које раде уз помоћ вештачке интелигенције, саопштио је 16. јула да га је хаковао непознати сајбер криминалац служећи се изузетно моћним АИ-јем.

Напад се, како објашњавао, разликовао од било чега са чиме су се сусрели раније - изведен је надљудском брзином уз помоћ вештачке интелигенције са врло мало или нимало људских смерница.

„Размишљамо о контролисању вештачке интелигенције, али се трудимо и да будемо и водећи у том пољу", рекао је Трамп.

Овакав одговор указује промену тона његова администрације која се није много мешала у поље технологије.

Иако је нека врста контроле над алатима вештачке интелигенције на столу, такав потез мора пажљиво да се размотри, додао је Трамп.

Овим најавама је поред очигледних хакерских могуц́ности популарних алата вештачке интелигенције, претходила и претња Беле куц́е усмерена на конкурентску кинеску технологију.

„Не желимо да их ограничавамо а да одједном будемо други после Кине“, рекао је.

„Кина практично нема контролу над вештачком интелигенцијом и понаша се мало слободније", додао је Трамп.

ББЦ је контактирао Белу кућу и кинеску амбасаду у Вашингтону за коментар.

ОпенАИ је преузео одговорност за најмање два хакерска инцидента у којима су његови алати вештачке интелигенције деловали ван онога за шта су били дизајнирани.

Из компаније ОпенАИ је сада откривено да је напад отишао много даље него што се првобитно мислило и да није погодио само једну компанију, већ да је његов АИ бот напао и више других „јавно доступних сервиса“.

Сем Алтман, извршни директор ОпенАИ-а, посетио је Вашингтон 29. јула.

На питање новинара да ли је било још система који су пробијени алатима компаније, Алтман је одговорио: „Могло би да буде".

Америчка влада је интервенисала када је Антропик, главни амерички ривал ОпенАИ-ја, одлучио да јавно објави модел за који је раније рекао да представља превелики ризик да буде свима доступан.

Тада је Доналд Трамп најавио да ће наложити свим федералним агенцијама да моментално престану да користе његову технологију.

Мајкл Крациос, Трампов виши технолошки саветник, оптужио је у априлу, у интерном допису Беле куц́е, кинеске фирме за крађу америчке вештачке интелигенције у „индустријским размерама“.

Поновио је оптужбе, тврдећи да је популарни модел вештачке интелигенције Кими 3 кинеске компаније Moonshot AI развијен крађом информација компаније Антропик.

Кинеска влада је одбацила такве оптужбе.

Скот Бесет, амерички министар финансија је упозорио да би кинеске фирме за вештачку интелигенцију могле да се суоче са санкцијама због оваквих активности.

Федерална комисија за комуникације је забранила увоз нових страних хуманоидних робота.

Вец́ина модела вештачке интелигенције који се развијају у Кини су отвореног кода, што значи да су на располагању свима са одговарајућом рачунарском опремом.

Недавно су директори многих великих америчких технолошких компанија потписали јавне изјаве о подршци моделима отвореног кода.

Неспретности, прилагођавање и Парк из доба јуре

Cloud Security Alliance (CSA), непрофитна организација која се бави сајбер безбедношћу, између осталог и у области вештачке интелигенције, одржала је хитан састанак са Хагинг фејсом.

Вештачка интелигенција је током хакерског напада „често бирала неефикасне путеве и показивала неспретно понашање, какво ниједан човек не би одабрао“, наводе из ЦСА.

Више пута је понављала радње које су већ завршили, што указује да је повремено губила нит и контекст, као и да је „халуцинирала“ велике количине бесмислених команди и текста.

Радили су неуредно и нису нарочито успешно прикривали трагове, додају.

Ипак, упркос грешкама и необичном понашању, Хагинг фејс упозорава да је АИ показала изузетно напредно техничко знање и способност да се веома брзо прилагоди новим ситуацијама током вишедневног напада.

Била су потребна три дана да се хакерски напади уопште открију унутар ИТ мреже Хагинг фејса, а стручњацима компаније за вештачку интелигенцију и сајбер безбедност требало је више сати да их обуздају и уклоне.

То би, према њиховим речима, многим компанијама представљало озбиљан изазов.

Компанија није желела да открије колику је финансијску штету претрпела, али је саопштила да су запослени много сати обнављали приближно трећину инфраструктуре.

Хагинг фејс су похвалили због транспарентности и спремности да отворено подели са АИ и сајбер безбедносном заједницом шта се догодило.

ЦСА је упозорио да овај инцидент показује како АИ „пронађе начин“, алудирајући на чувену реплику из филма Парк из доба Јуре, у којем диносауруси успевају да побегну из ограђених простора.

Ритеш Пател, стручњак за сајбер безбедност, присуствовао је састанку са око 450 учесника.

Индустрија интензивно ради на одговору на нову претњу коју представљају одбегли АИ агенти, изјавио је.

„Ово је реалност аутономних агената које покрећу најсавременији АИ модели - неуморно су упорни, често производе велику количину шума и покушаће сваки могући пут да остваре циљ, што лако може да преоптерети традиционалне системе одбране“, наводи.

Историја 'одметнутих' АИ

Ово није први пут да се показало да вештачка интелигенције може да се понаша „одметнуто“.

ЦСА у свом извештају подсећа на случај из септембра 2024. године, када је претходни модел ЧетГПТ-ја успео да изађе из изолованог окружења како би пронашао одговор потребан за други тест.

Тај инцидент остао је ограничен на интерне ИТ системе компаније ОпенАИ и, како наводи ЦСА, „углавном је био дочекан са одушевљењем“.

Међутим, овакво „одметнуто“ понашање АИ система је „правило, а не изузетак“.

Због тога ЦСА упозорава стручњаке за сајбер безбедност широм света да морају да се прилагоде новој реалности у којој ројеви АИ агената раде великом брзином, често на непредвидиве и неспретне начине који могу довести до нових безбедносних пробоја.

Аутори извештаја позивају све који развијају или користе АИ агенте да одговорно управљају њима уз предлог да се успостави механизам којим би одбрамбени тимови могли да утврде ко је крајњи власник тог одређеног агента, како би се повећала транспарентност.

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk