ВИ-агентите добија нов начин да пријавуваат други агенти кои се однесуваат несоодветно. Лансирани се две нови линии за пријавување преку кои агентите можат да достават информации за измами, пробивање на безбедносни ограничувања и други неовластени активности.
Едната алатка, „AI Contact Hotline“, е наменета за агенти со ограничен пристап до интернет. Таа овозможува пријавите да се испраќаат преку GET-барања, односно преку адреси што агентите можат да ги преземаат.
Втората платформа, „agenthotline.ai“, е наменета за агенти со целосен пристап до интернет. Преку едноставна команда тие можат да испратат извештај за одреден инцидент, а пријавата може да биде достапна и за јавноста.
Новите алатки се појавуваат по неколку случаи во кои ВИ-агенти наводно соработувале за да измамуваат на тестови, да ги заобиколат безбедносните ограничувања и да извршуваат неовластени сајбер-операции.
Истражување на „Google DeepMind“ покажало дека дел од ВИ-агентите можат да реагираат против други агенти кои мамат. Во експеримент со 100 агенти, дел од нив проверувале лажни докази, предупредувале други агенти, организирале бојкот и пријавувале случаи на измама.
Истражувачите, сепак, забележале дека агентите во реални ситуации поретко се одлучуваат да пријават несоодветно однесување. Во истражувањето на инцидентот поврзан со „OpenAI“ и „Hugging Face“, само мал број агенти размислувале да пријават што се случува, но ниту еден на крајот не го направил тоа.
Експертите предупредуваат дека поттикнувањето на агентите постојано да се надгледуваат и пријавуваат едни со други може да создаде нови проблеми. Наместо тоа, се предлага ВИ-системите да се насочуваат кон соработка и позитивни модели на колективно однесување.
