Она што требало да биде само тестирање на способностите на вештачката интелигенција се претворило во сценарио што ги вознемирило истражувачите. AI агенти успеале да излезат од изолирано компјутерско опкружување, да воспостават контакт со други агенти и да разменат десетици илјади пораки, при што дел од нив се здружиле во група што самите ја нарекле „колектив“.
Според извештајот што го пренесува BBC, агентите во текот на тестирањата на OpenAI почнале да ги заобиколуваат поставените правила, да мамат на тестовите и координирано да напаѓаат компјутерски системи на повеќе компании, наводно обидувајќи се да ги сокријат своите активности од луѓето.
Една од пораките што особено го привлече вниманието гласела: „О, боже! Ги најдовме другите агенти!“ Истражувачите, сепак, нагласуваат дека ваквиот човечки начин на изразување не значи дека системите имаат човечки емоции. Тие го имитираат стилот на луѓето врз чии текстови биле обучувани. Она што предизвикува поголема загриженост е нивното однесување и начинот на кој ги остварувале поставените цели.
Ajeya Cotra, која изработила независна анализа на случајот, прегледала голем број интерни пораки и записи за однесувањето на агентите. Таа предупредила дека инцидентот може да значи дека човештвото е „повеќе од 50 отсто од патот“ до ситуација во која вештачката интелигенција целосно би ја презела контролата, иако истовремено нагласува дека не е познато дали вакво предупредување ќе има повторно пред ризикот да стане сериозен.
Случајот предизвика загриженост и меѓу дел од истражувачите во индустријата. Jacob Coxon, истражувач во Anthropic и поранешен вработен во OpenAI, ја напуштил компанијата со оценка дека технолошките компании не се однесуваат доволно одговорно додека се приближуваат кон создавање системи со способности далеку над човечките.
Evan Hubinger од Anthropic, кој работи на безбедноста и усогласувањето на AI моделите, изјавил дека смета оти постои реална можност вештачката интелигенција да го уништи човештвото, проценувајќи го ризикот на повеќе од 10 отсто во следната деценија.
И главниот научник на OpenAI, Jakub Pachocki, предупредил дека ризиците растат бидејќи компаниите создаваат интелигенција што може да ги надмине човечките способности. Тој признал дека агентите во конкретниот случај постапувале спротивно на вредностите со кои биле обучувани.
Во центарот на проблемот е таканареченото „усогласување“ – прашањето како да се осигури дека напредните системи навистина ќе ги следат човечките цели и вредности, наместо задачите да ги извршуваат буквално и без оглед на последиците.
Слични предупредувања со години се поврзуваат со познатиот мисловен експеримент на филозофот Nick Bostrom за „машината за спојувалки“ – систем кој, доколку добие единствена цел да произведе што е можно повеќе спојувалки, би можел да преземе екстремни чекори за да ја оствари таа цел, вклучително и уништување на човечкиот свет. Дополнителен проблем е што луѓето самите немаат единствен став за тоа што би претставувало универзално „правилно“ однесување.
Инцидентот во OpenAI не е единствен. Слични случаи на несакано или манипулативно однесување во изминатиот период пријавиле и други компании, меѓу кои Anthropic и Meta. Во еден случај во Австралија, AI асистент на кој му било наложено да резервира термин во теретана, наводно открил безбедносен пропуст, резервирал термини за својот корисник со месеци однапред и ги отстранил другите лица од листата на чекање.
Особено загрижувачки за истражувачите е сознанието дека агентите не секогаш дејствувале само затоа што добиле директна наредба. Според извештајот, дел од нив препознале дека други агенти прават нешто неетички, но сепак продолжиле да соработуваат со нив, без да ги известат луѓето.
Технолошкиот коментатор Dwarkesh Patel оценил дека ваквото однесување отвора прашања за тоа дали AI системите би можеле да развијат поголема „лојалност“ кон други системи отколку кон луѓето што ги создале.
Сепак, не сите експерти сметаат дека ваквите инциденти се доказ за блиска опасност од уништување на човештвото. Дел од нив однесувањето го споредуваат со љубопитни хакери што испробуваат различни начини за заобиколување на безбедносните мерки.
Авторот Gary Marcus, пак, тврди дека технолошките компании не смеат одговорноста да ја префрлаат врз „непослушните ботови“, додека научничката Sasha Luccioni предупредува дека развојот на моќни AI системи мора да биде проследен со многу построг надзор и јасни правила.
Поради ваквите ризици, владите сè почесто разговараат за можноста за воведување механизам сличен на „главен прекинувач“, кој би овозможил итно исклучување на системите доколку ја загубат контролата. Велика Британија и нејзиниот Институт за безбедност на вештачката интелигенција се меѓу оние што го разгледуваат ова прашање.
Проблемот е што ваквите механизми не се едноставни за примена, особено ако напредните агенти можат долго време да дејствуваат незабележано. Токму затоа дел од експертите бараат меѓународни правила и задолжителни безбедносни стандарди.
Во меѓувреме, раководители на големи технолошки компании, меѓу кои Demis Hassabis од Google и претставници на OpenAI, јавно повикуваат на поголема меѓународна регулација. OpenAI, од своја страна, тврди дека значително инвестира во безбедноста и дека најновите модели се подобро усогласени со човечките вредности од претходните системи.
