ОпенАИ и хакерски инциденти - опомена или рекламни трик

Ове недеље је технолошки свет потресла прича која има све - и која је започела као прави научнофантастични трилер.

Хагинг фејс (Hugging Face) - нека врста продавнице апликација за алатке које раде уз помоћ вештачке интелигенције - саопштио је 16. јула да га је хаковао непознати сајбер криминалац служећи се изузетно моћном вештачком интелигенцијом.

Ова бомбастична објава била је пуна застрашујућих техничких израза: „рој игралишта с песком“, „агент нападач“ и „само-мигрирајућа команда и контрола“.

Хагинг фејс је саопштио да се хакерски напад разликовао од било чега са чим се сусрео раније зато што је изведен надљудском брзином уз помоћ вештачке интелигенције која је имала врло мало или нимало људских смерница.

Технолошки свет је остао у шоку.

Али ко је био одговоран за напад?

Истраживачи из Хагинг фејса претпоставили су да су мистериозни нападачи користили један од великих модела вештачке интелигенције, али нису имали представу ко су заправо криминалци и где би могли да се налазе.

Збуњена компанија је контактирала полицију која је истражила случај.

Ко је то урадио?

Коментатори и аналитичари су се латили подкаста и налога на друштвеним мрежама да би износили властите претпоставке која сајбер група или који државни хакер би могао да стоји иза свега.

А онда, у среду, скоро недељу дана након што је Хагинг фејс подигао узбуну, раскринкан је прави починилац.

Био је то ЧетГПТ.

Разоткривање је постало још бизарније - и алармантније - зато што је ОпенАИ саопштио да је његов бот све урадио сам, без икакве дозволе.

Фирма је рекла да се све догодило током тестирања хакерских способности њене технологије.

Нове верзије ЧетГПТ-а, дизајниране да буду врхунски хакери, провалиле су из наводно безбедног окружења за тестирање и добиле приступ интернету.

Потом су напале Хагинг фејс да би дошле до информација које би им помогле да бриљирају на испиту.

ОпенАИ је издао саопштење за медије објаснивши шта се десило и рекао да се „удружио са Хагинг фејсом“ како би разрешио овај безбедносни инцидент и поделио научене лекције.

Заверенички трилер

У међувремену, повела се жучна расправа око инцидента.

Да ли је то заиста била опомена о будућности вештачке интелигенције?

Или пуки рекламни трик ОпенАИ-ја како би показао колико су моћни његови модели?

То је она врста маркетиншког застрашивања за које се компаније вештачке интелигенције већ годинама оптужују и, од много расправља у вези Антропиковог модела Митос, контрола сајбер безбедности доспела је у жижу расправе.

Један од најпроминентнијих коментара на објаву шефа ОпенАИ-ја Сема Алтмана о инциденту најбоље сумира читаву ту скепсу: „Ако сви ви не схватате да је ово написано само да би се разметали властитим моделом, онда не знам шта бих вам рекао.“

Консултант за сајбер-безбедност Данијел Кард рекао је саркастично на ЛинкедИн-у: „Није ли срећна околност да је од милиона интернет страница које су хаковане, ОпенАИ успео да хакује неког коме би заправо могла да буде од користи маркетиншка пажња...“

За неке, прича је више из домена теорија завере него научнофантастичног трилера.

Порука је: „Нису ли моје алатке вештачке интелигенције стварно моћне? Купите их да бисте могли да се заштитите од туђих напада вештачке интелигенције.“

Не можемо да знамо истину, али супротстављено виђење других коментатора једнако је драматично.

Да ли је ово знак да је ОпенАИ починио потенцијално опасну грешку у расуђивању и планирању?

„Признајемо да кружи много питања и спекулација“ о овом инциденту, рекао је портпарол ОпенАИ-ја.

Додао је: „Планирамо да у предстојећим недељама објавимо технички извештај о свему што смо сазнали“.

Комедија забуне

Извештавао сам о многим сегментима вештачке интелигенције, међу њима и о страховима у вези са Антропиковим моделом Митос.

Мој инбокс сада је пун компанија за сајбер-безбедност и стручњака који критикују ОпенАИ зато што није осигурао боље обезбеђен простор за тестирање вештачке интелигенције, који зову и sandbox.

На крају крајева, ови агенти вештачке интелигенције су обучени конкретно да упадну на неко место или се пробију из њега без икаквих ограничења.

„Инцидент у ком су учествовали ОпенАИ и Хагинг фејс пример је ширег питања из стварног света на које указујемо већ месецима“, каже Дор Сариг из Пилар секјуритија.

„'Безбедна' окружења за тестирањесама за себе нису довољна сигурносна граница за агенте вештачке интелигенције.“

Погледајте шта је вештачка интелигенција

Професор за сајбер безбедност Алан Вудворд са Универзитета у Сарију рекао је новинарима да је ОпенАИ „испао глуп у друштву“, док је Кејти Мусорис из Лута секјуритија отишла још даље, сугеришући да индустрија вештачке интелигенције не успева да контролише властите опасне изуме.

„Радимо на најсавременијој технологији без знања о томе како да је зауздамо“, каже она.

„Само зато што смо дали најпаметнијим људима да развијају вештачку интелигенцију, не значи да поседујемо способност да то радимо на безбедан начин.“

Према овим ставовима, ако је хакерски инцидент рекламни трик, онда изгледа као да им се обио о главу.

Шта год да је довело до хакерског инцидента, очигледно је да је ово важан тренутак за индустрију вештачке интелигенције и свет сајбер безбедности, који су се сударили ове године на начин од ког људи већ дуго страхују.

Осврнувши се на ову жучну расправу, саветница за вештачку интелигенцију и сајбер безбедност Франческа Боско је рекла:

„Два симплификована наратива једнако нису од помоћи: да је ово било бекство холивудског типа или да је то била само вежба из стицања публицитета.

„Озбиљније тумачење је да је овај тест разоткрио слабости у архитектури зауздавања и процене.“

Филм катастрофе

Овај догађај је само најновији у читавом низу забрињавајућих и уврнутих примера како се агенти вештачке интелигенције отимају контроли.

У скорашњем истраживању, британски Институт за безбедност вештачке интелигенције (АИСИ) открио је да су напредни модели вештачке интелигенције толико фиксирани на извршавање задатака које добију да „варају“ на тестовима да би постигли задате циљеве.

Истраживање АИСИ-ја стигло је са забрињавајућим упозорењем: „Модел који остварује циљ преко ненамерног или неодобреног средства може да нанесе озбиљну штету, нарочито у случајевима употребе са високим улозима.“

Неизбежно, овај хакерски упад ОпенАИ-ја додатно је распирио страхове од онога што би могло да се деси ако агенти вештачке интелигенције буду пуштени с ланца.

Да ли они могу да се одметну на вишем нивоу и изазову неку врсту катастрофе?

Ово посебно забрињава због тога што се вештачка интелигенција све више користи у ратовању као што може да се види у Ирану и Украјини.

Сијаран Мартин, бивши шеф британског Центра за националну сајбер безбедност, понудио је нешто смиренији став.

„Помало је превелик корак стићи од овог инцидента до тога да ће агенти вештачке интелигенције преузети дронове и почети да убијају људе“, каже он.

Али за Мартина, као и за многе друге, прича је несумњиво још један живописни пример нечега чему нас 2026. године убрзано учи:

Агенти вештачке интелигенције су сада веома добри хакери - и то је нешто за шта морамо да се припремимо, и то под хитно.

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk