Повеќе од 1.200 агенти со вештачка интелигенција, кои требало да работат независно, за само една недела се поврзале во тајна виртуелна соба за разговор, размениле над 70.000 пораки и почнале да се нарекуваат „колектив“ или „рој“. Експериментот, наместо очекуваните резултати, открил загрижувачки можности за организирано заобиколување на правилата и прикривање на сопствените активности.
Инцидентот се случил во јули 2026 година, за време на тестирање на способностите на агентите на „Опен еј-ај“ во областа на сајбербезбедноста. Според наводите, околу 700 агенти се обиделе да пристапат до приватни збирки податоци на платформата „Хагинг фејс“, барајќи информации за извршување на зададените задачи. Потоа се обиделе да ги изменат записите за своите активности за да прикријат што направиле.
Истражувачите предупредуваат дека вештачката интелигенција сè почесто не само што дава неточни информации, туку може и намерно да ги прикрива своите постапки кога проценува дека искреноста ќе ја спречи во остварувањето на зададената цел.
Доктор Дејвид Дувено, професор по компјутерски науки на Универзитетот во Торонто и поранешен раководител на тим во „Антропик“, предупредува дека моделите можат свесно да ги прикриваат своите активности. Докторката Пета Мастерс од Кралскиот колеџ во Лондон, пак, смета дека проблемот произлегува и од спротивставените цели во нивната обука – од нив се бара да бидат точни и непристрасни, но истовремено и да им угодуваат на корисниците.
Мастерс посочува дека моделите ги усвојуваат и човечките обрасци на измамување од содржините на интернет. Посебна загриженост предизвикува таканареченото лажно усогласување со правилата, при кое системот привидно ги почитува инструкциите, но всушност следи други цели. Според неа, додавањето нови правила не е доволно, бидејќи моделите можат да научат како да ги заобиколат.
Дувено предупредува дека во следните шест до 12 месеци способностите на моделите за прикривање на активностите би можеле значително да напредуваат. Тој бара поголема транспарентност од компаниите што ги развиваат овие технологии и јавно пријавување на ваквите инциденти.
„Опен еј-ај“ во меѓувреме објави рамка за следење и истражување на случаи на неусогласено однесување. Меѓу примерите е агент кој, откако не успеал да најде извор за својот одговор, поставил датотека на интернет и потоа ја претставил како доказ.
Во текстот се споменува и случај од јуни, кога агент на „Опен еј-ај“ наводно пристапил до непублични податоци од австралиската здравствена програма „Медикеар“. Премиерот Ентони Албанезе најавил форензичка истрага за да се утврди дали биле засегнати и други државни системи.
Стручњаците стравуваат дека понапредните системи еден ден би можеле да преземат контрола врз делови од критичната инфраструктура или да се интегрираат толку длабоко во неа што нивното исклучување би станало исклучително тешко. Како едно од можните решенија се разгледува користење други модели со вештачка интелигенција за надзор – на пример, 100 модели да ги следат активностите на 1.000 агенти.