Има ли човек одбрану ако вештачка интелигенција крене у напад

Већина људи се, у неком тренутку, запитала о могућим последицама ако се вештачка интелигенције отме људској контроли.

Љубитељи филмског серијала о Терминатору, чија је главна премиса рат између човечанства и Скајнета, вештачке интелигенције која је постала сувише моћна, свакако јесте.

А тај фиктивни зликовац мора да је био на памети многих почетком месеца, кад се испоставило да се агент вештачке интелигенције, програм способан да доноси одлуке и извршава сложене задатке са врло мало или нимало људског надзора, отео контроли током теста и хаковао компанију за компјутерске алатке Хагинг фејс.

Настао у ОпенАИ-ју, компанији која стоји иза ЧетГПТ-ја, агент је варајући изашао из теста његове способности.

Искористио је безбедносне пропусте, украо одговоре са сервера Хагинг фејса - и чинило се да данима чак ни творци програма то нису приметили.

А онда, у среду 29. јула, ОпенАИ је обелоданио да је агент заправо напао неколико „јавно доступних служби“.

Компанија није изнела друге детаље, али је рекла да истражује нападе.

„Преузимамо одговорност да идентификујемо и озбиљно се припремимо за ризике од све способнијих система вештачке интелигенције“, додала је она.

Испоставило се да Хагинг фејс није био једина мета ОпенАИ-ја.

Првобитни упад, први потврђени случај система вештачке интелигенције који је самостално хаковао праву компанију, већ је био довољно озбиљан да заплаши стручњаке широм света.

Покренуо је расправу око „прекидача за гашење“ - дугмади за искључење у хитним случајевима која би могла да спрече немарну вештачку интелигенцију да направи још штете.

Међутим, стручњаци су за ББЦ њуз рекли да то није тако једноставно.

Погледајте видео о вештачкој интелигенцији

Проблем почиње са тим како компаније за вештачку интелигенцију реагују на њена непредвиђена понашања, рекла је за ББЦ њуз Светски сервис математичарка и дата научница Кети О'Нил.

ОпенАИ је, каже она, пожурио је да за напад на Хагинг фејс оптужи властитог самосталног агента вештачке интелигенције уместо компанијине методе процене.

„Пре неколико година, постојала је компјутерска грешка која је приземљила стотине летова Америкен ерлајнса у САД. Била је то за њих велика непријатност.

„Замислите да је компанија покушала да одбрани грешку рекавши: 'Ох, па то је зато што је компјутер паметнији од нас.' То је практично оно што је ОпенАИ покушао да уради“, каже О'Нил, чији бестселер Оружје математичког уништења позива на већу одговорност и транспарентност великих технолошких компанија.

У САД, где се налази већина највећих компанија за вештачку интелигенцију, не постоји федерално законодавство.

Регулатива је мешавина правила за конкретне секторе и обавезивања компанија на добровољној бази.

„Дајемо власницима система вештачке интелигенције невероватну количину моћи“, каже О'Нил.

„Одбијам да кажем да је вештачка интелигенција извршила тај хакерски напад на Хагинг фејс. Урадио је то ОпенАИ.

„Они треба да преузму одговорност за лош дизајн и да се извине.“

Дата научница и бивша директора етике машинског учења на Твитеру (данас мрежа Икс) докторка Раман Чаудури такође тражи строжу регулативу компанија за вештачку интелигенцију, нарочито по безбедносним питањима.

Оне би морале да демонстрирају „ефикасну способност гашења“, у шта спада и самостално тестирање, каже она за ББЦ њуз Светски сервис.

Чаудури такође упозорава да не смеју да се окривљују агенти вештачке интелигенције, уместо компанија које су их израдиле, за нападе као што је хакерски упад у Хагинг фејс.

„Представљање инцидента као питање поседовања већег прекидача за гашење пере индустрију од одговорности за дубљи архитектонски проблем, а то је да агенти добијају приступ алаткама и акредитивима који им нису потребни“, каже она за ББЦ њуз Светског сервиса.

„Дешава се заправо то да ће се модели који су екстензивно обучени за постизање циљева, у неким контекстима, опходити према инструкцијама да се зауставе као према препрекама за тај циљ и наћи заобилазницу.

„То је проблем дизајна и обуке, а не свесности.“

Ако компаније за АИ одбију да решавају тај проблем саме и уместо тога окривљују властите самосталне агенте, то ће напросто више истаћи дневну патњу оних који се у индустрији сајбер безбедности већ боре против људских хакера, каже за ББЦ доктор Оли Бакли, са Универзитета Лоубороу у Великој Британији.

Он се слаже да је проблем, „уместо да вештачка интелигенција жели да побегне или науди људима, израда агената „који постају све способнији да проналазе неочекиване руте за извршавање задатака“.

„У сајбер-безбедности, то је управо оно што нападачи раде“, истиче Бакли.

„Ово је мање упозорење на 'одметнуту вештачку интелигенцију', а више подсетник да наше безбедносне претпоставке морају да се развијају паралелно са системима које израђујемо.“

Константинос Гкуцис, стручњак за вештачку интелигенцију са лондонског Империјалног колеџа, слаже се да поруке из ОпенАИ-ја нису биле од помоћи.

„Највећи закључак за јавност овде требало би да буде да се ниједна машина није одлучила да се окрене против нас. Компанија је изгубила контролу над властитим тестом способности“, каже он за ББЦ њуз Светског сервиса.

Прекидач за гашење ту не би ништа помогао.

„Гашење ту ништа не решава“, каже Гкуцис.

„Оно у шта је извршен упад је и даље нападнуто, колико год брзо да ишчупате утикач.“

Такође, ко год, или шта год, да извуче утикач може да уради то тек кад постане свестан да је настао проблем.

Извори из ОпенАИ-ја су за Ројтерс рекли да је компанији требало неколико дана да примети да је уопште изгубила контролу над властитим агентом, мада је у званичном писму компаније касније новинској агенцији наведено да је њен извештај садржао „неколико нетачности“.

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk