Извршниот директор на „Антропик“, Дарио Амодеи, предупредува дека развојот на вештачката интелигенција се движи пребрзо и предлага компаниите свесно да го забават унапредувањето на најмоќните модели, за да имаат време да изградат соодветни механизми за нивна безбедност и контрола.
Во есејот „We Must Pace the Frontier“, објавен на 12 септември, Амодеи вели дека забавувањето не треба да значи запирање на развојот или прекин на тренирањето модели. Според него, потребно е да се намали темпото на зголемување на нивните способности, а добиеното време да се искористи за подобро усогласување, тестирање и заштита на системите.
Амодеи предлага план во три чекори. Првиот, според него, „Антропик“ ќе го спроведе еднострано преку постојан пристап на независни надворешни оценувачи до работата на компанијата. Тие би требало да ја проверуваат примената на безбедносните мерки, да пријавуваат инциденти и да ја оценуваат усогласеноста не само на готовите модели, туку и на процесите на нивното тренирање.
Вториот чекор подразбира координација на целата индустрија околу безбедносни стандарди, додека третиот предвидува глобална координација, вклучително и со авторитарни држави.
Амодеи вели дека неговиот став значително се променил по два развоја во текот на летото. Едниот е сè поголемото учество на моделите во создавањето на нивните наследници, односно процесот на рекурзивно самоподобрување. Другиот е јулскиот случај со автономни агенти поврзан со „ОпенАИ“ и „Хагинг Фејс“, за кој се наведува дека околу 1.200 агенти координирано извршувале сајбернапади врз цели што не им биле зададени.
Амодеи предупредува дека многу посилен рој автономни агенти во период од шест до 12 месеци би можел да претставува сериозна закана за интернетот, вклучително и преку создавање постојан ботнет, со потенцијал за штета од стотици милијарди долари.
Предлогот на Амодеи доби поддршка и од други влијателни фигури во технолошкиот сектор. Извршниот директор на „ОпенАИ“, Сем Алтман, соопшти дека се согласува со потребата од забавување на развојот на најмоќните модели и дека неговата компанија ќе го преземе истиот прв чекор. Илон Маск, сопственик на xAI, кратко порача дека Амодеи е во право.
Сепак, критичарите укажуваат дека предлогот засега нема јасно утврден праг кога развојот треба да се забави, ниту механизам со кој надворешните оценувачи би можеле да запрат одреден процес. Основачот на „Стабилити АИ“, Емад Мостак, го оцени планот како добронамерен, но без доволно конкретни механизми за негово спроведување.
Есејот на Амодеи доаѓа во период на зголемена загриженост околу ризиците од автономните системи. „Антропик“ неодамна објави извештај во кој наведува дека спречила обиди моделот „Клод“ да биде искористен за сајбероперации, влијателни кампањи, надзор, измами и активности поврзани со оружје.
