Истражувачи за сајбер-безбедност успеале да компромитираат повеќе сметки на вработени во OpenAI, при што во почетната фаза од операцијата користеле Claude, четбот развиен од конкурентската компанија Anthropic.
Тимот од американскиот стартап Hacktron AI преку сметките на вработените добил пристап до софтверскиот кеш на системите на OpenAI, а истражувачите наведуваат дека теоретски можеле да стигнат и до значително пошироки овластувања.
Нападот започнал со помош на Claude, кој може да генерира код за сајбероперации. Истражувачите преку него пристапиле до сметките на ChatGPT преку интерниот форум за вработени на OpenAI на платформата Discourse. Потоа испратиле безопасен предлог за промена на кодот, односно pull request, до репозиториум на OpenAI на GitHub.
Иако во почетната фаза користеле Claude, истражувачите од Hacktron наведуваат дека за главниот дел од операцијата го користеле најсовремениот модел на OpenAI, GPT-5.6 Sol.
Пропустот бил пријавен до OpenAI во рамки на официјалната програма за етичко хакирање. Истражувачите посочиле дека имале пристап до кодот на GitHub, но дека не го презеле. OpenAI им исплатил 6.500 долари, односно околу 5.671 евро, како награда во рамки на својата програма за пријавување безбедносни пропусти.
Од OpenAI го потврдиле случајот и им се заблагодариле на истражувачите за пријавувањето. Компанијата соопштила дека во меѓувреме ги отстранила безбедносните пропусти што биле искористени во операцијата.
Од Hacktron предупредуваат дека алатките со вештачка интелигенција значително го поедноставуваат изведувањето на сложени сајбернапади. Според нив, операции за кои претходно биле потребни голем тим, значителни ресурси и месеци работа, сега можат да бидат изведени за само неколку дена.
Слични предупредувања упатуваат и други истражувачи за сајбер-безбедност, кои укажуваат дека вештачката интелигенција го скратува времето потребно за планирање и изведување на нападите.
Ова не е прв безбедносен инцидент поврзан со OpenAI. Компанијата во јули соопштила дека при интерно тестирање на своите агенти со вештачка интелигенција, односно алатки способни автономно да извршуваат задачи, биле пробиени системите на стартапот Hugging Face.
OpenAI оваа недела објави и шест други примери на неочекувано или загрижувачко однесување на својата технологија, при што предупреди дека развојот на вештачката интелигенција не може уште долго да продолжи со максимално темпо.
Во меѓувреме, од Anthropic повторно повикаа на забавување на развојот на вештачката интелигенција. Таквиот повик го поддржаа и OpenAI, Google DeepMind и Илон Маск. Од Anthropic предупредија дека неконтролираниот развој на вештачката интелигенција претставува егзистенцијална закана, иако дел од истражувачите остануваат скептични кон ваквите проценки.
Американскиот претседател Доналд Трамп, пак, ги отфрли повиците за забавување на развојот и порача дека САД мора да ја задржат предноста пред кинеската индустрија за вештачка интелигенција.
