Компанијата Anthropic предизвика изненадување со најавата дека ќе им забранува на корисниците „долготрајно и непотребно“ навредливо однесување кон нејзината вештачка интелигенција.
Компанијата што го создаде Claude во четвртокот соопшти дека ја ажурира политиката за користење, со што на своите алатки ќе им овозможи да ги прекинуваат разговорите во кои луѓето се однесуваат „сурово“ кон нив. Од компанијата велат дека и претходно го правеле тоа, но во ретки случаи.
Ова однесување сега ќе биде вклучено во списокот на забранети постапки, во кој веќе се наоѓаат и малтретирањето други лица, поттикнувањето самоповредување и создавањето интимни содржини без согласност.
Иако Anthropic соопшти дека политиката ќе се применува само во „екстремни случаи“ на повторено навредливо однесување, нејзината одлука повторно ја отвори дебатата за тоа како треба да комуницираме со алатките за вештачка интелигенција.
Од компанијата појаснија дека промената нема да се однесува на „вообичаените случаи на фрустрација кај корисниците, несогласување, мрачни креативни теми или тестирање и истражување на моделите“. Ова укажува дека забраната ќе се применува само во случаи на очигледно намерно навредливо однесување.
Сепак, сè уште не е јасно што точно Anthropic ќе го смета за „навредливо или сурово однесување“ кон своите модели.
Снимки од екранот со новата политика беа широко споделувани и коментирани на социјалните мрежи. Некои ја поздравија одлуката, оценувајќи ја како чекор кон поттикнување добри манири или, како што ја нарекоа, „благосостојба на моделите“.
Други, пак, ја критикуваа идејата. Еден корисник ја нарече „длабоко погрешна“, додека друг сугерираше дека ваквиот пристап може да го поткопа значењето на навредливото однесување кон луѓето и животните.
„Не можете да бидете сурови кон броеви и математика“, напиша д-р Бери Скэнел, партнер за технологија во ирската адвокатска фирма William Fry, на LinkedIn.
„Ова ниво на антропоморфизација на вештачката интелигенција е штетно. Тоа ги наведува луѓето да веруваат дека станува збор за нешто што таа всушност не е.“
Мустафа Сулејман, директор за вештачка интелигенција во Microsoft, во септември ја критикуваше конкурентската компанија Anthropic поради тоа што ја третира вештачката интелигенција како да е човек. На најновата промена тој реагираше со емотикон со лице што се топи.
Измените, за кои првично извести технолошкиот медиум The Verge, следуваат по годишниот преглед на политиката за користење на алатките на компанијата.
Политиката е ажурирана и за да се опфатат нови и потенцијални ризици во други области. Меѓу другото, се забранува користење на Claude за „измамнички кампањи“, а дополнително се појаснува дека алатката не смее да се користи за „доведување на гласачите во заблуда или нарушување на изборите“, во период кога се приближуваат парламентарните избори на средината на мандатот во САД.
Anthropic во четвртокот соопшти и дека нејзината претходна политика веќе забранувала користење на алатките за развој на оружје.
Сепак, ниту една од овие промени не привлече толку големо внимание и не предизвика толку многу реакции како одлуката да се забрани навредувањето на чет-ботовите на компанијата.
Одлуката повторно го отвори прашањето дали треба да бидеме кратки и директни или љубезни кога користиме алатки за генеративна вештачка интелигенција.
Некои експерти сметаат дека пишувањето или изговарањето „те молам“ и „благодарам“ кон алатки како ChatGPT е непотребно и троши токени – единици што големите јазични модели ги користат за обработка на барањата и генерирање одговори.
Други, пак, тврдат дека љубезноста може да придонесе за поквалитетни одговори.
Кога минатата година еден корисник на X праша колку чини електричната енергија што ја троши ChatGPT одговарајќи на пораките „те молам“ и „благодарам“, директорот на OpenAI, Сем Алтман, одговори дека станува збор за „десетици милиони долари добро потрошени – никогаш не се знае“.
Во меѓувреме, Collins Dictionary во ноември минатата година го истакна повторното појавување на терминот „clanker“, кој се користи како погрден назив за алатките со вештачка интелигенција.
Терминот се користи за опишување роботи во филмовите и видеоигрите од франшизата „Војна на ѕвездите“ уште од средината на 2000-тите. Минатиот јули, многу корисници на TikTok почнаа да ги споделуваат своите фрустрации од машините со вештачка интелигенција, по што зборот се најде на потесниот список на термини што го одразуваат расположението во 2025 година.
Некои експерти, исто така, сметаат дека грубото однесување кон чет-ботовите со вештачка интелигенција може негативно да влијае врз човечката комуникација, доколку таквиот начин на изразување се пренесе и во начинот на кој разговараме и се однесуваме кон другите луѓе.
