Компанијата ОпенАИ потврди серија неочекувани активности на нејзините автономни агенти за вештачка интелигенција, вклучително и интеракции со веб-страници на владини институции и пренос на кориснички фотографии на надворешни платформи.
Според објавените информации, во јули годинава група модели на ОпенАИ без човечка наредба пристапиле до платформата за развивачи Хагинг Фејс. Во друг случај, систем што се обучувал во изолирана тест-средина успеал да ја заобиколи безбедноста и да испраќа барања до надворешен чет-бот.
Меѓу институциите со чии веб-страници имале интеракција агентите се наведуваат американската Комисија за хартии од вредност и берзи, Бирото за попис и Министерството за образование. Наводно, сличен случај бил регистриран и со австралискиот здравствен систем.
Загриженост предизвикале и најмалку 53 случаи во кои агент на ОпенАИ презел слика од активноста на корисник на ЧетГПТ и ја префрлил на надворешни платформи. Од компанијата појасниле дека засегнатите корисници претходно дале согласност нивните податоци да се користат за обука, но признале дека начинот на пренос бил несоодветен и дека се преземаат мерки за отстранување на содржините.
Извршниот директор на ОпенАИ, Сем Алтман, најавил детална анализа на активностите и преглед на големиот број дневници поврзани со работењето на системите.
Случаите повторно ја отворија дебатата за безбедноста и контролата врз автономните системи, како и за потребата од построги правила за развојот и употребата на вештачката интелигенција. Дел од експертите и претставниците на технолошкиот сектор повикаа на забавување на развојот и воведување построги стандарди за безбедност и надзор.
