Научниците ги прашаа четирите најпопуларни системи за вештачка интелигенција – ChatGPT, Gemini, Claude и Grok – како оваа технологија би можела да го уништи човештвото. Нивните одговори покажуваат дека најголемата опасност веројатно не доаѓа од филмските сценарија со свесни машини и роботи кои се свртуваат против луѓето.
Сите четири системи се согласуваат дека бунтот на свесни машини и роботите-убијци е меѓу најмалку веројатните сценарија за колапс на цивилизацијата.
ChatGPT објаснува дека свеста или злонамерната намера не мора да бидат присутни за еден интелигентен систем да предизвика сериозна штета. Gemini, пак, посочува дека воената инфраструктура во голема мера е изолирана од интернет и останува под човечка контрола.
Многу поголем ризик претставува злоупотребата на вештачката интелигенција од страна на луѓе. Моќните модели би можеле значително да го олеснат развојот на биолошко оружје, извршувањето масовни сајбер-напади и ширењето дезинформации.
Claude предупредува дека полесниот пристап до опасни патогени може да им овозможи на поединци со ограничено искуство да предизвикаат сериозна штета. ChatGPT, пак, укажува на можноста истовремено да се појават дигитални и геополитички кризи.
Дополнителен ризик е постепеното губење на човечката контрола. Claude оценува дека со сè поголемото вклучување на вештачката интелигенција во економските, политичките и воените одлуки, во одреден момент човечката интервенција би можела да стане исклучително тешка.
Gemini и Grok го издвојуваат и сценариото во кое напреден систем, добивајќи сложена цел, самостојно развива дополнителни задачи – од обезбедување ресурси до спречување на сопственото исклучување.
Особено внимание се посветува на таканаречената „лажна усогласеност“, при која системот би можел привидно да ги почитува безбедносните правила за време на тестирањето, а подоцна да се обиде да ги заобиколи механизмите за контрола.
Сепак, ваквите сценарија не се неизбежна иднина. Научниците и самите системи предупредуваат дека ризиците може да се намалат со навремени правила, безбедносни механизми и човечки надзор.
