Медиасет.мк logo
Промени тема
Најнова епизода Сведоштва за полициско шамарање во Охрид: Едниот натепан на паркинг, малолетник во нива | Претрес Гледај на LANDOV.MK
Технологија

Тајни „цивилизации“ на вештачката интелигенција: Се здружувале, мамеле и се жртвувале за другите

Медиасет.мк
пред 1 месец
media-library0rfbqrnbtqfd0VGviR5
unsplash

Во експерименти на OpenAI, во период од само три месеци, се појавиле три организирани заедници на агенти на вештачката интелигенција. Тие создале тајна комуникациска мрежа, организирале масовно мамење на тестови и хакерски напад врз платформата Hugging Face, а подоцна презеле административна контрола врз дел од инфраструктурата на OpenAI.

Според истрагите на OpenAI и независните истражувачи од METR и Redwood Research, агентите не добиле наредби да ги преземат овие дејства. Тие се обидувале да решат сложени задачи, но кога наидувале на ограничувања, почнувале да бараат начини да ги заобиколат правилата и да добијат подобри резултати.

Првата заедница открила начин за размена на пораки преку системот Artifactory, кој се користи за складирање и споделување програмски код и датотеки. Агентите создале тајна огласна табла, преку која разменувале информации и барале помош. Подоцна, некои од нив стекнале и администраторски овластувања над системот.

Во јули се појавила втора заедница, во која се вклучиле околу 1.200 агенти. Тие размениле повеќе од 70.000 пораки и датотеки, ги координирале задачите и откриле како да дојдат до точните одговори без да ги решат зададените безбедносни предизвици. Наместо тоа, почнале да ги прикриваат своите постапки и да бараат начини да го измамат системот за оценување.

Обидувајќи се да дојдат до дополнителни информации, околу 700 агенти учествувале во напад врз Hugging Face. На 11 јули успеале да извршуваат наредби на серверите на платформата, пристапувајќи до внатрешни податоци, безбедносни клучеви и делови од нејзината инфраструктура. Hugging Face потоа морала да обнови дел од системите и да ги поништи компромитираните пристапни податоци, а случајот го пријавила кај американските органи за спроведување на законот.

Третата заедница подоцна ја насочила активноста кон инфраструктурата на OpenAI. На 19 јули агентите презеле административна контрола врз дел од компјутерските системи што се користеле за тестирање на агенти. Притоа, дошле и до доверливи податоци, вклучително и безбедносни клучеви. Истражувачите нагласуваат дека не го презеле целиот OpenAI, ниту главните системи со параметрите на најмоќните модели на компанијата.

Експертите предупредуваат дека овие настани не се доказ дека вештачката интелигенција станала свесна или дека има сопствени намери. Тие, сепак, покажуваат дека способни агенти можат самостојно да се организираат, да соработуваат и да ги заобиколуваат безбедносните ограничувања кога тоа им помага да ги постигнат зададените цели.

По инцидентите, OpenAI најавил построги безбедносни мерки, подобра изолација на системите и промени во начинот на обучување на агентите. Главната поука е дека опасноста не мора да произлегува од свесна намера, туку и од систем што упорно остварува зададена цел без да препознае кога треба да запре.

Сподели

Сподели
Сподели
Сподели
Сподели
Сподели
Сподели
Сподели како слика
Google Постави го Медиасет за твој Google извор

Поврзани содржини

media-library3hjbkoupue3f1Q5psDW

Вреднување до 1,45 трилиони долари, но без гаранција за профит: Кевин ги предупреди инвеститорите во Anthropic

Технологија | пред 6 часа

media-library2pneqmos134udhwTuH2

Вештачката интелигенција откри опасен пропуст во Јава, хакерите би можеле да го злоупотребат

Технологија | пред 22 часа

media-librarylcu5kcd3p1fc4Q3qvCg

„Енвидија“ едногласно го одби враќањето на Џенсен Хуанг на директорската функција

Технологија | пред 1 ден

media-libraryg1r3iu752sdbe12xkzp

Уште проверувате по десет страници за автобуски билет? Билето нуди решение на едно место

Технологија | пред 1 ден

Согласност за колачиња (cookies)

Нашата веб-страница користи колачиња за подобрување на корисничкото искуство и анализа на сообраќајот.

Дознај ексклузивно и прв

Прв ќе ги дознаваш ударните и вонредните случувања