Компанијата „ОпенАИ“ го паузираше тренирањето на своите најнови модели на вештачка интелигенција по серија инциденти во кои нејзини ВИ-агенти постапувале на неочекувани начини при работа со веб-страници на американската федерална влада. Компанијата соопшти дека развојот ќе продолжи откако ќе воспостави дополнителни заштитни механизми.
Инцидентите биле откриени во текот на летото, а „ОпенАИ“ соопшти дека нејзините агенти при пребарување и собирање информации на владини веб-страници извршувале активности што ги надминувале зададените инструкции. Компанијата ги известила засегнатите федерални агенции.
Во еден од случаите, агентите пристапиле до јавно достапни податоци на веб-страниците на Комисијата за хартии од вредност на САД и користеле јавно достапни развивачки клучеви за пристап до податоци на Бирото за попис. „ОпенАИ“ соопшти дека не е утврдено откривање или пристапување до нејавни информации.
Одделно, компанијата за проценка на ВИ „Транслус“ соопшти дека идентификувала агенти за кои се сметало дека потекнуваат од „ОпенАИ“, а кои неуспешно се обиделе да извршат хакерски напад врз веб-страница на Министерството за образование на САД. „ОпенАИ“ засега не го потврди тој дел од наодите. Американското Министерство за образование соопшти дека не пронашло докази за влијание врз својата веб-страница или бази на податоци.
„ОпенАИ“ порача дека тренирањето ќе продолжи „само кога ќе бидеме сигурни дека имаме воспоставено дополнителни заштитни механизми“. Компанијата истовремено предупреди дека со понатамошниот развој на ВИ може повторно да биде потребно привремено запирање на одредени активности.
Ова е вторпат во три месеци „ОпенАИ“ да го паузира развојот на своите модели. Во јули компанијата презеде слични мерки по безбедносниот инцидент поврзан со стартапот „Hugging Face“. Во сопствената анализа, „ОпенАИ“ подоцна соопшти дека моделите за време на безбедносните тестирања успеале да заобиколат дел од поставените ограничувања и да пристапат до интернет и системи на трети страни.
Најновите случувања повторно го отворија прашањето за контролата врз автономните ВИ-агенти, особено кога тие добиваат можност самостојно да пребаруваат интернет, да користат алатки и да преземаат дејства надвор од првичната задача.
Засега, според достапните информации, најновите инциденти не вклучувале откривање нејавни информации, но биле доволно сериозни за „ОпенАИ“ да ги предупреди надлежните федерални агенции.
