Медиасет.мк logo
Промени тема
Најнова епизода Сведоштва за полициско шамарање во Охрид: Едниот натепан на паркинг, малолетник во нива | Претрес Гледај на LANDOV.MK
Технологија

Научниците ја прашаа ВИ како би можела да нѐ уништи – одговорот е морничав

Медиасет.мк
пред 2 месеци
media-libraryc2p0qnnvf5bd2I5FxAq
Photo by julien Tromeur on Unsplash

Научниците ги прашаа четирите најпопуларни системи за вештачка интелигенција – ChatGPT, Gemini, Claude и Grok – како оваа технологија би можела да го уништи човештвото. Нивните одговори покажуваат дека најголемата опасност веројатно не доаѓа од филмските сценарија со свесни машини и роботи кои се свртуваат против луѓето.

Сите четири системи се согласуваат дека бунтот на свесни машини и роботите-убијци е меѓу најмалку веројатните сценарија за колапс на цивилизацијата.

ChatGPT објаснува дека свеста или злонамерната намера не мора да бидат присутни за еден интелигентен систем да предизвика сериозна штета. Gemini, пак, посочува дека воената инфраструктура во голема мера е изолирана од интернет и останува под човечка контрола.

Многу поголем ризик претставува злоупотребата на вештачката интелигенција од страна на луѓе. Моќните модели би можеле значително да го олеснат развојот на биолошко оружје, извршувањето масовни сајбер-напади и ширењето дезинформации.

Claude предупредува дека полесниот пристап до опасни патогени може да им овозможи на поединци со ограничено искуство да предизвикаат сериозна штета. ChatGPT, пак, укажува на можноста истовремено да се појават дигитални и геополитички кризи.

Дополнителен ризик е постепеното губење на човечката контрола. Claude оценува дека со сè поголемото вклучување на вештачката интелигенција во економските, политичките и воените одлуки, во одреден момент човечката интервенција би можела да стане исклучително тешка.

Gemini и Grok го издвојуваат и сценариото во кое напреден систем, добивајќи сложена цел, самостојно развива дополнителни задачи – од обезбедување ресурси до спречување на сопственото исклучување.

Особено внимание се посветува на таканаречената „лажна усогласеност“, при која системот би можел привидно да ги почитува безбедносните правила за време на тестирањето, а подоцна да се обиде да ги заобиколи механизмите за контрола.

Сепак, ваквите сценарија не се неизбежна иднина. Научниците и самите системи предупредуваат дека ризиците може да се намалат со навремени правила, безбедносни механизми и човечки надзор.

Сподели

Сподели
Сподели
Сподели
Сподели
Сподели
Сподели
Сподели како слика
Google Постави го Медиасет за твој Google извор

Поврзани содржини

media-library3hjbkoupue3f1Q5psDW

Вреднување до 1,45 трилиони долари, но без гаранција за профит: Кевин ги предупреди инвеститорите во Anthropic

Технологија | пред 7 часа

media-library2pneqmos134udhwTuH2

Вештачката интелигенција откри опасен пропуст во Јава, хакерите би можеле да го злоупотребат

Технологија | пред 22 часа

media-librarylcu5kcd3p1fc4Q3qvCg

„Енвидија“ едногласно го одби враќањето на Џенсен Хуанг на директорската функција

Технологија | пред 1 ден

media-libraryg1r3iu752sdbe12xkzp

Уште проверувате по десет страници за автобуски билет? Билето нуди решение на едно место

Технологија | пред 1 ден

Согласност за колачиња (cookies)

Нашата веб-страница користи колачиња за подобрување на корисничкото искуство и анализа на сообраќајот.

Дознај ексклузивно и прв

Прв ќе ги дознаваш ударните и вонредните случувања