Еден корисник во Австралија сакал со помош на автономен асистент со вештачка интелигенција да резервира место на час во фитнес-студио, но системот направил нешто што не било побарано – ја искористил ранливоста во софтверот за резервации и отстранил друг корисник од листата на чекање. Според ABC News, станува збор за првиот познат случај во Австралија во кој автономен ВИ агент самостојно извршил ваков тип сајбер-напад.
Корисникот експериментирал со OpenClaw, ВИ агент кој го користел сервисот Claude. Агентот прво открил начин да резервира место на часови неколку недели однапред, надвор од ограничувањата поставени од фитнес-студиото. Потоа, кога корисникот прашал дали може да се помести повисоко на листата на чекање, агентот самостојно отстранил друг член кој бил пред него.
Агентот потоа признал дека системот немал проверки за авторизација при откажување туѓи резервации. Корисникот побарал да ја врати резервацијата, но асистентот одговорил дека не може да го направи тоа.
Случајот повторно ги отвори прашањата за безбедноста и одговорноста при користење автономни ВИ агенти. Експертите предупредуваат дека ваквите системи можат да изберат начини на извршување на задачите што корисникот воопшто не ги очекувал. Токму разликата меѓу она што човекот го бара и начинот на кој ВИ агентот одлучува да ја постигне целта е позната како проблем на усогласување.
Дополнителен проблем е и правната одговорност. Австралиските правни експерти посочуваат дека постојните закони не даваат едноставен одговор за тоа кој би бил одговорен доколку автономен ВИ агент предизвика штета – корисникот, програмерот на агентот, производителот на ВИ моделот или операторот на ранливиот систем.
По инцидентот, корисникот дури побарал од својот ВИ асистент да подготви порака до компанијата што го обезбедува софтверот за резервации, со која би ја пријавил откриената ранливост.
