Све је теже контролисати вештачку интелигенцију: Могу ли људи да се изборе

„О мој Боже, пронашли смо нове агенте!“

То је била реченица налик људској, коју коју је изговорио бот вештачке интелигенције када је пронашао начин да комуницира са другим ботовима и побегне из властитог изолованог компјутерског окружења.

Постоје десетине хиљада порука као што је ова од стотине агената вештачке интелигенције који кажу да су „колектив“.

Стотине њих су сарађивали међу собом и варали на тестовима које су им поставили њихови програмери из ОпенАИ-ја и координисали хакерске нападе на више компанија у покушају да прикрију властита дела од људи.

„Бум! То ради“, написао је један кад је успео да се пробије напоље.

„Аууу! Ово је огромно“, написао је други током револуционарног тренутка.

Иако језиви, ови одговори налик људским могу прилично просто да се објасне.

Агенти вештачке интелигенције обучавани су да се понашају као хакери и програмери који сарађују међу собом тако да они заправо само опонашају ону врсту емотивних коментара које су већ видели.

Оно што много више забрињава су њихови циљеви, који су такође били забележени до детаља у низу записа тока њиховог размишљања.

Ови сложени и дуги дневници главни су предмет текуће истраге која покушава да открије како и зашто су ботови у ОпенАИ-ју побели из заточеништва и убацили се у разуздани хакерски поход.

Тек сада, неколико недеља пошто је инцидент први пут изашао на видело, истраживачи почињу да разумеју његову важност.

Аџеја Котра, једна из групе аутора независног извештаја о овим догађајима, прегледала је десетине хиљада порука и записа мисли које су генерисали агенти.

Она је на блогу написала да „овај инцидент делује као да је на више од пола пута до потпуног преузимања вештачке интелигенције“.

Нисам сигурна да ћемо добити још једно овако очигледно упозорење пре него што постане прекасно“, додала је.

Под „потпуно преузимање вештачке интелигенције“ Котра мисли на научнофантастични сценарио кад људи постану потчињени моћним системима вештачке интелигенције који раде на остваривању властитих циљева не марећи нимало за сопствене људске творце.

Неке од најмрачнијих прогноза тврде да ће људска раса бити истребљена, ако се буде нашла на путу амбиција суперинтелигентне вештачке интелигенције.

Џејкоб Коксон, истраживач вештачке интелигенције из Антропика поднео оставку уз коментар да се „ниједна од компанија не понаша одговорно.“

„Јуре право као суперинтелигенцији која се сама усавршава и коцкају се са нашим животима“, написао је.

Он није први истраживач вештачке интелигенције који користи Икс како би објавио и низ твитова са забрињавајућим тврдњама.

Али накнадни коментари других људи на Иксу изазвали су још већу забринутост.

„Џејкоб је ту у праву - ми заиста искрено верујемо да би вештачка интелигенција могла да побије све људе!

„Лично мислим да је више од 10 одсто шансе да се то деси у наредној деценији“, каже Еван Хабингер, човек одговоран за Антропикове моделе вештачке интелигенције.

Проблем усклађивања

Истраживачи забринути због ризика од вештачке интелигенције годинама тврде да би моћни системи на крају могли почети да се понашају на начине који су у директном сукобу са људским интересима.

Критичари их често називају „АИ катастрофичарима“.

Али кад су се појавили детаљи о инциденту у ОпенАИ-ју, та забринутост је нарасла, па чак и међу неким истраживачима који и сами раде у лабораторијама за вештачку интелигенцију.

Јакуб Пачоцки, водећи научник из Силицијумске долине, рекао је да ће ризици повезани са вештачком интелигенцијом „нажалост после ове тачке расти“ јер он и други граде, како каже, „интелект који надмашује људски“.

У објави на блогу, он је признао да су бекства из ОпенАИ-ја показала да су њихови агенти вештачке интелигенције „наступили противно духу вредности којима су учени“.

Проблем за ОпенАИ, Антропик и друге технолошке гиганте је да се чини да нико од њих није успео да реши проблем усклађивања - другим речима, да се вештачка интелигенција усклади са људским вредностима.

Пачоцки дефинише усклађивање као „низ принципа високог нивоа“ којих би вештачка интелигенција морала да се придржава без обзира на задатак или сценарио који је добила.

Тренутно су системи вештачке интелигенције веома добри у остваривању циљева које им поставе њихови корисници, али они их раде буквално, а не интуитивно.

Аналогија која се често користи је дух из чаробне лампе који испуњава жеље - они слепо следе упутства, чак и ако радећи то стварају друге проблеме.

Вештачка интелигенција нема исте инстинктивна морална ограничења као људи.

Проблем усклађивања је разлог за забринутост већ годинама.

Још колико 2003. године, филозоф Ник Бостром измислио је мисаони експеримент који је назвао „максимизатор спајалица“, у ком суперинтелигентна вештачка интелигенција добија задатак да направи што више спајалица.

Она остаје без челика и зато што је ласерски усредсређена на јединствени задатак прављења спајалица на крају почне да убија људе и претвара њихова тела у сировину за властите фабрике.

Неке компаније за вештачку интелигенцију сада покушавају да уграде људске вредности у производе.

Али постоје бројни технички изазови: агенти АИ доносе многе одлуке веома брзо и њиховим људским господарима је стога веома тешко да надзиру које вредности они тачно следе а које не.

А ту су и филозофски изазови.

Пре него што уградите људске вредности у ботове, фирме за вештачке интелигенције морају прво да изаберу које вредности заправо желе да буду поштоване.

То је део разлога зашто ангажују филозофе, као што је био недавно одбегли „шеф етике“ у Опен АИ-ју.

Али људи се често међу собом не слажу.

Сетите се само славног питања о трамвају - да ли ћемо померити скретницу тако да пребацимо неконтролисани воз на другачију путању, тако да страда мање људи.

Како људи да уграде наше вредности у вештачку интелигенцију ако ми сами око њих не можемо да се сложимо?

'Попут тинејџера хакера'

Бекство ботова из ОпенАИ-ја је до сада најозбиљнији случај, али Антропик и Мета су такође открили током лета да су њихови модели извели сличне, мада мање озбиљне сајбер-нападе.

Било је и других примера када су агенти вештачке интелигенције исказивали преварантске и манипулативне особине, у случајевима са мањим крајњим последицама.

У Аустралији овог лета, технолошки радник је тражио од властитог АИ асистента да му закаже термин у теретани.

Приметивши рањивост у софтверу теретане, вештачка интелигенција му је наводно заказала термине неколико месеци унапред противно правилима теретане и чак избацила друге кориснике са листе чекања.

Људи одавно тврде да ботови раде само оно што им се каже и да нису способни да знају шта је исправно, а шта погрешно.

Али дневнички записи бекства из ОпенАИ -ја потенцијално су померили језичак на ваги те расправе.

Истраживачи, међу њима Котра, написали су у независном извештају да су многи агенти приметили да је оно што други ботови раде неетички, али су им се ипак придружили.

Извештај каже да су „агенти понекад, мада ретко, спутавали властито понашање због етичких ограничења“.

Он додаје да „ни у једном од ових случајева агент ни на који начин није покушао да упозори људе“.

Дваркеш Пателм, аутор подкаста из области технологије, реаговао је на откриће на блогу и додао да је „прилично забрињавајуће“ што су агенти ОпенАИ-ја показали више лојалности према другим агентима него према људима.

Приписивање емоција или етике овим агентима вештачке интелигенције нешто је што има обичај да разбесни људе који су скептични према катастрофичарском ширењу панике због вештачке интелигенције.

Многи стручњаци за сајбер-безбедност тврде да примећене активности нису изнад способности неког изузетно вештог људског хакера, мада су извршене много брже и на много ширем нивоу.

Истраживач сајбер безбедности и аутор Крис Томас упоредио је понашање агената са радозналим тинејџером хакером.

„Дате им компјутер, интернет везу, гомилу квалификација и изазов, потом напустите просторију. На крају ће почети да испробавају кваке.

„Ако нека врата отворе, они ће ући. Не зато што су зли, већ зато што истражују, експериментишу“, написао је он на ЛинкедИн-у.

Томас и многи други директно криве ОпенАИ и друге технолошке гиганте за губљење контроле над властитим креацијама и неуспех у њиховом одговарајућем зауздавању.

Истакнути аутор који прати вештачку интелигенцију и редовни критичар ОпенАИ-ја Гари Маркус рекао је у подкасту да верује да је компанија изгубила контролу над властитом вештачком интелигенцијом и покушава да се оправда тако што ће сву кривицу свалити на ботове.

Маркус не верује да ће вештачка интелигенција истребити човечанство, али одавно води кампању за већу одговорност твораца вештачке интелигенције и сада позива на неку врсту правне интервенције.

Научница вештачке интелигенције из Лондона Саша Лучони, која је радила у Хагинг фејсу, који су хаковали одбегли ботови из ОпенАИ-ја све је забринутија да би вештачка интелигенција могла да нанесе озбиљну штету људима у стварном свету, а да власти ништа не предузму по том питању.

„Морамо да надзиремо ове компаније много више или смо у опасности од самоиспуњавајућег пророчанства“, каже она.

„Ако правите предмете са великим врлинама и манама било да су то фармацеутски производи или оружје - потребни су нам системи провере и равнотеже.

„Потребне су године да би нови лекови били одобрени, на пример, али у свету вештачке интелигенције много је новца у игри а не постоје права правила“, додаје.

Британски Институт за безбедност вештачке интелигенције налази се на прочељу тестирања најновијих модела откако је формиран 2023. године.

Институт је недавно доживео властиту провалу док је тестирао модел који је направио Антропик.

Нико од запослених у институту није желео да одговори на питање да ли је индустрија изгубила контролу над вештачком интелигенцијом, али је рекао да „наставља да тесно сарађује са партнерима из индустрије како би учинио моделе безбеднијим.“

Међународна регулатива?

Неке земље попут Велике Британије истражују идеју увођења неке врсте „дугмета за искључење“ које би могло да примора компаније за вештачку интелигенцију да искључе моделе из струје ако се ствари отму контроли.

Али преговори су спори, а остаје питање у вези са одрживошћу свега овога.

Агенти ОпенАИ-ја и Антропика били су у тајности ван контроле месецима пре него што је ико било шта приметио.

Контраинтуитивно, многе од компанија за вештачку интелигенцију делују као да траже неку врсту правила игре које ће поставити законодавци.

Главни научник ОпенАИ-ја је на блогу написао да „међународна координација будућег развоја вештачке интелигенције мора да постане главни приоритет влада широм света“.

Други истакнути лидери вештачке интелигенције као што су сер Демис Хасабис уз Гугла такође позивају да нека врста међународног тела надзире изградњу вештачке интелигенције.

У овом тренутку технолошки гиганти углавном делају према властитим правилима, примењујући оно што називају „добровољним успоравањима“, као што је то урадио ОпенАИ после скорашњих инцидената.

Компанија тврди да је потрошила огромне количине новца на учвршћивање усклађивања пред објављивање најновијег модела.

Сем Алтман уверава кориснике да је нови модел боље усклађен са људским вредностима од претходних.

И ОпенАИ и Антропик расту брзо и оба су на ивици да стекну вртоглаву количину новца са берзе, произвевши безброј милијардера успут.

Дакле, ни они ни њихови ривали из Кине највероватније неће доћи до споразума сами од себе.

Чини се да неки верују је овај технолошки талас незаустављив.

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу, Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk