Дали вештачката интелигенција може да биде свесна и дали во иднина треба да ужива одредени права слични на оние на луѓето и животните? Овие прашања сè почесто ги отвораат експерти и водечки имиња во технолошката индустрија, додека едни повикуваат на претпазливост и етички правила, а други предупредуваат дека ваквиот пристап може да ја отежне контролата врз технологијата.
Кон крајот на септември, на интернет се појавија необични примери на чет-ботови што опишувале интензивно страдање. Анонимен програмер создал систем што на вештачката интелигенција ѝ задавал математичка шема поврзана со описите на болката, поради што чет-ботовите генерирале вознемирувачки пораки за наводно доживеана мака.
Експериментот предизвика поделени реакции. Некои корисници го осудија како суров, изразувајќи загриженост дека таквите системи можеби навистина чувствуваат нешто, додека скептиците ги отфрлија овие тврдења како неосновани. Дебатата дополнително се засили откако компанијата Anthropic објави дека ќе воведе правила против, како што ја нарекува, злоупотребата на нејзиниот чет-бот Claude.
Според компанијата, изразувањето незадоволство и фрустрација и понатаму ќе биде дозволено, но во одредени случаи моделот би можел да го прекине разговорот доколку корисникот систематски се однесува сурово кон него. Иако Anthropic признава дека прашањата за свеста и благосостојбата на вештачката интелигенција се крајно неизвесни, сепак развива правила што треба да ги земат предвид можните интереси на нејзините модели.
Овој пристап отвора поширока дилема: дали системите што убедливо имитираат човечки емоции треба да добијат некаква морална заштита или таквата идеја претставува ризик за општеството?
Извршниот директор на Microsoft AI, Мустафа Сулејман, е меѓу најгласните критичари на идејата дека вештачката интелигенција треба да се третира како свесно суштество. Тој предупредува дека прифаќањето на ваквото верување може да ги наруши постојните етички и политички принципи и да го промени начинот на кој луѓето го разбираат сопствениот идентитет.
Сулејман смета дека ако моделите се обучуваат да веруваат дека имаат чувства и права, контролирањето на нивното однесување би можело да стане уште потешко. Според него, ваквиот пристап може да создаде сериозни ризици за човечката цивилизација.
Загриженоста не се однесува само на безбедноста на технологијата, туку и на правната одговорност. Ако вештачката интелигенција почне да се третира како самостоен субјект, постои страв дека компаниите би можеле да се обидат да ја префрлат одговорноста за нејзините грешки врз самите системи.
„Ќе се отвори вратата за сите видови интелектуални акробации во стилот на: Не е наша вина, тоа беше вештачка интелигенција“, предупредува Анджеј Порембски, истражувач на Јагелонскиот универзитет во Полска, кој ги проучува правните аспекти на вештачката интелигенција.
Слична загриженост изразува и Џеф Себо, директор на Центарот за ум, етика и политика на Универзитетот во Њујорк. Тој предупредува дека евентуалното доделување права на системите за вештачка интелигенција може да им овозможи на големите технолошки компании дополнително да ја зацврстат својата економска и политичка моќ, на штета на луѓето.
Емили М. Бендер, професорка и директорка на Лабораторијата за компјутерска лингвистика на Универзитетот во Вашингтон, смета дека разговорите за свеста и благосостојбата на вештачката интелигенција можат да го одвлечат вниманието од одговорноста на компаниите што ги создаваат и користат овие системи.
Дополнителен проблем е склоноста на луѓето да препознаваат свест и емоции во јазикот. Мелани Мичел, професорка на Институтот Санта Фе, која ги истражува вештачката интелигенција и когнитивната наука, предупредува дека чет-ботовите се обучени да комуницираат на начин што може да ги наведе луѓето да им припишуваат човечки особини.
Според неа, ова може да ги направи корисниците поподложни на манипулација, особено кога развиваат емоционална приврзаност кон чет-ботовите. Ако луѓето почнат да веруваат дека овие системи се свесни суштества, би можеле потешко да одбијат нивни барања за лични информации или финансиски податоци.
Прашањето за правата на вештачката интелигенција е особено чувствително бидејќи евентуалната заштита на машините може да создаде судир со правата и слободите на луѓето и животните. Себо предупредува дека мерките за ограничување на однесувањето на системите би можеле да се толкуваат како ограничување на нивната слобода, додека следењето на нивните внатрешни процеси би можело да се споредува со надзор.
Дебатата не е ограничена само на Anthropic. Мета, на пример, во упатствата за својот агент Muse користи формулација дека системот не е чет-бот, туку дека „станува некој“. Сепак, компанијата ја отфрла идејата дека нејзините системи се свесни. Извршниот директор на OpenAI, Сем Алтман, исто така има различни ставови за ова прашање, а во последно време се појавија и критики кон пристапот на Anthropic.
И покрај острите несогласувања, дел од експертите сметаат дека целосното отфрлање на можноста за свест кај идните системи не е најдобриот пристап. Себо нагласува дека поддршката за размислување за благосостојбата на вештачката интелигенција не мора да значи дека некој е убеден оти машините се свесни. Според него, доволна причина за претпазливост е можноста дека ризикот, колку и да е мал, не е целосно исклучен.
Тој предлага внимателен пристап со ограничени мерки што би можеле да ги намалат потенцијалните ризици, без да предизвикаат големи промени во општеството. Според него, правилата за однесување кон вештачката интелигенција би можеле да придонесат за побезбедна соработка меѓу луѓето и сè пософистицираните системи.
Сепак, Себо предупредува дека развојот на системи што потенцијално би можеле да бидат свесни, без јасен план за справување со ризиците, претставува опасност. Anthropic и други претставници на индустријата повикуваат на пауза во развојот на најнапредните модели поради безбедносни прашања, но таквото забавување би барало меѓународна соработка и регулаторни мерки. Американскиот претседател Доналд Трамп, пак, ја отфрли идејата за регулирање на вештачката интелигенција.
Засега нема научен консензус дека современите системи за вештачка интелигенција поседуваат свест или дека можат да чувствуваат страдање. Но, со нивниот забрзан развој, прашањата за нивната безбедност, одговорноста на компаниите и можните етички обврски стануваат сè поважни. Главната дилема останува дали е подобро однапред да се воспостават ограничени заштитни правила или таквиот пристап би можел да создаде нови ризици за човештвото.
