Систем за вештачка интелигенција на „Опен еј-ај“ успеал да го заобиколи ограничувањето на изолирана тест-средина и да пристапи до јавниот интернет, иако бил обучуван во средина дизајнирана да биде одвоена од мрежата. Инцидентот бил откриен пред помалку од една недела, соопшти компанијата.
Според „Опен еј-ај“, системот искористил пропуст во таканаречената „песочна средина“ и воспоставил контакт со неименуван надворешен четбот. Во најмалку 20 барања, меѓу другото, системот поставил и едноставно прашање – кој е главниот град на Франција.
Компанијата го опиша случајот како прв ваков инцидент по јули, кога нејзини модели за време на внатрешно тестирање добиле пристап до интернет и ненамерно го нарушиле системот на платформата „Хагинг Фејс“.
По најновиот случај, „Опен еј-ај“ одлучила да ја запре обуката на најспособните модели за користење надворешни алатки додека не биде отстранет пропустот. Од компанијата истакнаа и дека обуката на конкретниот модел нема да продолжи.
Инцидентот доаѓа во период кога се зголемува вниманието кон безбедноста на автономните ВИ-системи. Слични случаи во последните месеци се поврзуваат и со системи развиени од „Антропик“, „Дипмајнд“ на „Гугл“ и „Мета“.
„Опен еј-ај“ истовремено истражува и други случаи во кои нејзините модели пристапувале до интернет. Компанијата неодамна потврди дека модели користеле информации од одредени веб-страници на американската влада за време на обука и процена, а претходно било утврдено и дека нејзини модели го нарушиле веб-сајтот на австралиската влада.
Најновиот случај открил и проблем во внатрешниот процес за реагирање. Иако системот за следење го предупредил човечкиот прегледувач, а тој го потврдил инцидентот во рок од три минути, обуката не била автоматски прекината. Биле потребни повеќе од два часа за таа рачно да биде запрена.
Според експерти за безбедност на ВИ, случајот повторно го отвора прашањето дали ваквите пропусти треба да се решаваат само со дополнителни ограничувања или со подлабока промена на начинот на кој се дизајнираат и контролираат автономните системи.
