Вештачката интелигенција се развива со голема брзина, а со нејзиниот напредок сè почесто се отвора и прашањето за можните ризици од нејзината злоупотреба или неконтролирана примена. Истражувачите со години предупредуваат дека во екстремни сценарија ВИ би можела да претставува сериозна закана за човештвото.
Меѓу сценаријата што се разгледуваат се вмешување во нуклеарен конфликт, злоупотреба за развој на смртоносни болести и неконтролирано преземање на ресурсите.
Поради ваквите можности, дел од експертите и раководителите на технолошки компании повикуваат на забавување на развојот на ВИ. Сепак, постојат и ставови дека дел од најекстремните сценарија повеќе наликуваат на научна фантастика. Хуан Андрес Гереро-Саде од компанијата за сајбер-безбедност SentinelOne е меѓу оние кои изразуваат ваков став.
Загриженоста дополнително се зголемила откако Џејкоб Коксун, поранешен истражувач во Anthropic, ја напуштил компанијата поради стравувања поврзани со неодговорен развој на ВИ.
Еден од разгледуваните ризици е можната вмешаност на ВИ во нуклеарен конфликт. Истражувачки тим од Кралскиот колеџ во Лондон симулирал 21 сценарио на нуклеарен конфликт за да испита како би постапувала ВИ во услови на криза.
Во симулацијата четботовите ги презеле улогите на државни и владини лидери на нуклеарните сили. Резултатите покажале дека во речиси сите случаи ВИ избрала употреба на нуклеарно оружје наместо смирување на конфликтот.
Од друга страна, истражувачката организација RAND минатата година заклучила дека денешната ВИ не може самостојно да предизвика употреба на нуклеарно оружје, меѓу другото поради строгите безбедносни процедури.
Експертите, сепак, предупредуваат дека ризикот би можел да се промени доколку ВИ добие можност да носи одлуки поврзани со нуклеарното оружје или тајно да добие пристап до него.
Како уште едно можно сценарио се наведува злоупотребата на ВИ за развој на смртоносни вируси. Технологијата може да помогне во развојот на терапии и лекови, но истите способности би можеле да се искористат и за создавање или модифицирање патогени со цел нанесување штета.
Компанијата Anthropic неодамна соопшти дека спречила обиди за злоупотреба на својот систем Claude за развој на биолошко оружје. Биологот и генетичар Кевин Есвелт од MIT предупредил дека четботовите можат да дадат информации што би можеле да бидат злоупотребени за развој или примена на опасни биолошки агенси.
Третото сценарио е познато како хипотетички „проблем со спојниците“. Според оваа идеја, суперинтелигентна ВИ би можела да ги преземе сите достапни ресурси за да ја оствари целта за која е програмирана.
Ако, на пример, добие задача да произведува што е можно повеќе спојници, теоретски би можела да ја претвори целата планета во огромна фабрика за спојници, без оглед на последиците врз човечкиот живот.
Дебатата за ризиците од развојот на ВИ продолжува. Додека дел од експертите предупредуваат на потенцијални егзистенцијални закани, други сметаат дека ваквите сценарија се претерани.
Развојот на технологијата продолжува со голема брзина, со што дополнително се отвора прашањето како ВИ да се користи безбедно и одговорно.
