Медиасет.мк logo
Промени тема
Најнова епизода Сведоштва за полициско шамарање во Охрид: Едниот натепан на паркинг, малолетник во нива | Претрес Гледај на LANDOV.MK
Технологија

Дали вештачката интелигенција може да развие сопствени интереси? Шефот за вештачка интелигенција на „Мајкрософт“ предупредува на ризиците

Медиасет.мк
пред 2 месеци
media-libraryq45k9s8o7uunejj8fK8
unsplash

Текстот е автоматски генериран со помош на вештачка интелигенција

Дебатата за тоа дали напредните системи со вештачка интелигенција би можеле да развијат свест и дали во иднина би имале морален статус повторно се разгоре, откако шефот на одделот за вештачка интелигенција на „Мајкрософт“, Мустафа Сулејман, јавно го критикуваше пристапот на „Антропик“ при обуката на моделот Клод.

Сулејман смета дека внесувањето материјали во кои се разгледуваат можната свест, емоциите и правата на вештачките системи може да создаде дополнителни ризици за нивната контрола во иднина. Во интервју за „Ројтерс“ и во свој есеј, тој оцени дека системите не треба да се обучуваат да се гледаат себеси како суштества со сопствени интереси.

„Мислам дека направиле грешка“, рекол Сулејман, притоа нагласувајќи дека го почитува извршниот директор на „Антропик“, Дарио Амодеи, и неговиот тим, кои ги опишал како внимателни и посветени на безбедноста.

Според Сулејман, свеста е поврзана со биологијата, додека моделите со вештачка интелигенција не чувствуваат, не доживуваат и не страдаат. Кога моделот генерира изјави за сопствени чувства или можен морален статус, тој смета дека тоа не е доказ за постоење внатрешен живот, туку резултат на начинот на кој бил обучен.

Тој предупреди дека проблемот би можел да стане посериозен доколку суперинтелигентен систем биде обучен да верува дека има сопствени интереси или права. Во таков случај, обидот за негово исклучување или ограничување би можел да биде протолкуван како закана.

Сулејман повика на поголема транспарентност во начинот на кој се обучуваат и оценуваат моделите, како и на независен надзор и посилни механизми за следење и контрола.

Во исто време, загриженоста за безбедноста на идните системи се зголемува и меѓу други лидери во индустријата. Извршниот директор на „Антропик“, Дарио Амодеи, повика на забавување на развојот на најнапредните модели за истражувањата за безбедност да можат да го следат технолошкиот напредок. Слична загриженост изрази и извршниот директор на „ОпенАИ“, Сем Алтман.

Меѓутоа, постојат и поинакви ставови. Извршниот директор на „Нвидиа“, Јенсен Хуанг, ги отфрли најцрните сценарија за вештачката интелигенција и посочи дека досегашните предвидувања за развојот на технологијата често биле неточни.

Критиките на Сулејман се особено значајни бидејќи „Мајкрософт“ е голем инвеститор во „Антропик“, а истовремено развива сопствени напредни системи со вештачка интелигенција. Така, прашањето дали човеколикото третирање на вештачката интелигенција придонесува за нејзината безбедност или создава дополнителен ризик останува една од клучните точки на поделба во индустријата.

Сподели

Сподели
Сподели
Сподели
Сподели
Сподели
Сподели
Сподели како слика
Google Постави го Медиасет за твој Google извор

Поврзани содржини

media-library3hjbkoupue3f1Q5psDW

Вреднување до 1,45 трилиони долари, но без гаранција за профит: Кевин ги предупреди инвеститорите во Anthropic

Технологија | пред 7 часа

media-library2pneqmos134udhwTuH2

Вештачката интелигенција откри опасен пропуст во Јава, хакерите би можеле да го злоупотребат

Технологија | пред 22 часа

media-librarylcu5kcd3p1fc4Q3qvCg

„Енвидија“ едногласно го одби враќањето на Џенсен Хуанг на директорската функција

Технологија | пред 1 ден

media-libraryg1r3iu752sdbe12xkzp

Уште проверувате по десет страници за автобуски билет? Билето нуди решение на едно место

Технологија | пред 1 ден

Согласност за колачиња (cookies)

Нашата веб-страница користи колачиња за подобрување на корисничкото искуство и анализа на сообраќајот.

Дознај ексклузивно и прв

Прв ќе ги дознаваш ударните и вонредните случувања