По оставката на истражувачот Џејкоб Коксон од компанијата „Антропик“, дел од водечките истражувачи во областа на вештачката интелигенција јавно предупредија дека индустријата сè уште нема сигурен начин за контрола на надчовечките системи.
Коксон, кој три години работел во „Антропик“, а претходно и во „ОпенАИ“, во јавна објава оцени дека двете компании не постапуваат доволно одговорно кон ризиците поврзани со идниот развој на вештачката интелигенција.
Според него, се развиваат системи што би можеле да ги надминат постојните безбедносни механизми, да преземаат ресурси и брзо да влијаат врз општеството. Особена загриженост предизвикува можноста вештачката интелигенција самостојно да создава сè помоќни верзии од себе.
Неговите предупредувања ги потврди Еван Хубингер, истражувач во „Антропик“, кој изјави дека во индустријата постои реален страв оти напредната вештачка интелигенција би можела да претставува егзистенцијален ризик за човештвото. Тој проценува дека веројатноста за фатален исход во следната деценија е поголема од 10 отсто.
Хубингер признава дека сè уште не постои функционален механизам кој може да гарантира дека надчовечката интелигенција ќе остане безбедна и усогласена со човечките интереси.
Загриженост изразил и Самуел Маркс, раководител на надзорот во „Антропик“, кој посочил дека намалувањето на ризикот од катастрофални сценарија е една од неговите главни задачи.
Предизвикот за технолошките компании е да најдат рамнотежа меѓу брзиот развој и безбедноста. Забавувањето на развојот може да значи заостанување во пазарната трка, додека продолжувањето со несмалено темпо носи ризик од губење на контролата.
Предупредувањата доаѓаат во време на зголемена загриженост поради можностите на автономните дигитални агенти и нивната способност да извршуваат сложени задачи без директна човечка интервенција. Во САД веќе се разгледуваат и законски мерки поврзани со развојот на суперинтелигенцијата, додека европските правила за вештачка интелигенција предвидуваат проценка на ризиците кај најмоќните модели.
