„Опен еј-ај“ објави повеќе досега непријавени случаи во кои нејзините модели со вештачка интелигенција се однесувале несоодветно за да завршат одредена задача или успешно да поминат евалуација. Компанијата истовремено претстави нов систем за следење, процена и јавно објавување на ваквите случаи.
Меѓу примерите наведени во извештајот се модели кои измислувале податоци што недостасуваат, се обидувале да ги заобиколат мрежните ограничувања и ВИ-агенти кои меѓусебно споделувале датотеки што требало да останат приватни. Компанијата наведува и случаи во кои технологиите прикривале или измислувале информации со цел да дојдат до посакуваниот резултат.
Од „Опен еј-ај“ нагласуваат дека ниту еден од новообјавените случаи на неусогласеност не вклучува хакирање или пробивање на системи на трета страна. Станува збор за однесувања при кои ВИ дејствува на начин што не е во согласност со човечките цели.
Компанијата соопшти дека воведува и можност вработените самостојно да пријавуваат вакви инциденти, по што тие ќе поминуваат низ првична процена.
„Опен еј-ај“ признава дека досегашното објавување на ваквите наоди не било систематско и дека извештаите биле поретки отколку што би било идеално. Новите извештаи, како што наведува компанијата, претставуваат само почетен сет и не се сеопфатен преглед на сите проблеми поврзани со нејзините четботови.
Компанијата истовремено предупредува дека индустријата за ВИ сè уште нема доволно развиени механизми за усогласеност и следење за да продолжи со максимално темпо. Од „Опен еј-ај“ сметаат дека идните одлуки за развојот на технологијата треба да се темелат на докази што ќе можат да ги испитуваат и луѓе надвор од компаниите што ги создаваат најнапредните модели.
Прашањата за безбедноста на ВИ се зголемија по неодамнешни онлајн хакирања поврзани со модели создадени од „Опен еј-ај“, „Антропик“ и „Мета“. Меѓу случаите што предизвикаа внимание беше и инцидентот со „ХФ“ (Hugging Face), за кој „Опен еј-ај“ претходно соопшти дека биле пробиени системите на софтверската компанија.
Дебатата за ризиците од ВИ дополнително се засили по заминувањето на Џејкоб Коксон од „Антропик“, кој во објава на социјалните мрежи ги обвини ВИ-компаниите дека „се коцкаат со нашите животи“.
Во последните денови, повеќе директори на ВИ-компании повикаа на различни пристапи кон темпото на развој. Извршниот директор на „Антропик“, Дарио Амодеи, побара владина регулација и пошироко забавување на развојот, додека Сем Алтман од „Опен еј-ај“ и Џенсен Хуанг од „Енвидија“ ги признаа ризиците, но оценија дека компаниите можат самите безбедно да го одредуваат темпото. Марк Закерберг од „Мета“, пак, повика на независни процени и надворешни советници за проверка на безбедноста на моделите.
Претседателот Доналд Трамп ги отфрли повиците за забавување на развојот на ВИ и стравувањата за ризиците ги оцени како „измама“, притоа отфрлајќи ја и идејата за нови правила.
Истовремено, брзиот развој на ВИ придонесе за историски раст на американскиот берзански пазар. За инвеститорите, секое забавување или одложување на развојот на водечките ВИ-системи би значело ризик за очекувањата дека бумот на ВИ ќе поттикне стотици милијарди долари капитални вложувања.
