Медиасет.мк logo
Промени тема
Најнова епизода „Претрес“ на Стојна за Куклица и наплатите, а на градоначалникот на К. Паланка за кравите и хаосот Гледај на LANDOV.MK

Не смеете да бидете „сурови“ кон AI: Anthropic воведува нови правила за корисниците

Медиасет.мк
пред 1 месец
media-library546hq6oso3h8eki0aa4
фото: unsplash / илустрација

Текстот е автоматски генериран со помош на вештачка интелигенција

Компанијата Anthropic предизвика изненадување со најавата дека ќе им забранува на корисниците „долготрајно и непотребно“ навредливо однесување кон нејзината вештачка интелигенција.

Компанијата што го создаде Claude во четвртокот соопшти дека ја ажурира политиката за користење, со што на своите алатки ќе им овозможи да ги прекинуваат разговорите во кои луѓето се однесуваат „сурово“ кон нив. Од компанијата велат дека и претходно го правеле тоа, но во ретки случаи.

Ова однесување сега ќе биде вклучено во списокот на забранети постапки, во кој веќе се наоѓаат и малтретирањето други лица, поттикнувањето самоповредување и создавањето интимни содржини без согласност.

Иако Anthropic соопшти дека политиката ќе се применува само во „екстремни случаи“ на повторено навредливо однесување, нејзината одлука повторно ја отвори дебатата за тоа како треба да комуницираме со алатките за вештачка интелигенција.

Од компанијата појаснија дека промената нема да се однесува на „вообичаените случаи на фрустрација кај корисниците, несогласување, мрачни креативни теми или тестирање и истражување на моделите“. Ова укажува дека забраната ќе се применува само во случаи на очигледно намерно навредливо однесување.

Сепак, сè уште не е јасно што точно Anthropic ќе го смета за „навредливо или сурово однесување“ кон своите модели.

Снимки од екранот со новата политика беа широко споделувани и коментирани на социјалните мрежи. Некои ја поздравија одлуката, оценувајќи ја како чекор кон поттикнување добри манири или, како што ја нарекоа, „благосостојба на моделите“.

Други, пак, ја критикуваа идејата. Еден корисник ја нарече „длабоко погрешна“, додека друг сугерираше дека ваквиот пристап може да го поткопа значењето на навредливото однесување кон луѓето и животните.

„Не можете да бидете сурови кон броеви и математика“, напиша д-р Бери Скэнел, партнер за технологија во ирската адвокатска фирма William Fry, на LinkedIn.

„Ова ниво на антропоморфизација на вештачката интелигенција е штетно. Тоа ги наведува луѓето да веруваат дека станува збор за нешто што таа всушност не е.“

Мустафа Сулејман, директор за вештачка интелигенција во Microsoft, во септември ја критикуваше конкурентската компанија Anthropic поради тоа што ја третира вештачката интелигенција како да е човек. На најновата промена тој реагираше со емотикон со лице што се топи.

Измените, за кои првично извести технолошкиот медиум The Verge, следуваат по годишниот преглед на политиката за користење на алатките на компанијата.

Политиката е ажурирана и за да се опфатат нови и потенцијални ризици во други области. Меѓу другото, се забранува користење на Claude за „измамнички кампањи“, а дополнително се појаснува дека алатката не смее да се користи за „доведување на гласачите во заблуда или нарушување на изборите“, во период кога се приближуваат парламентарните избори на средината на мандатот во САД.

Anthropic во четвртокот соопшти и дека нејзината претходна политика веќе забранувала користење на алатките за развој на оружје.

Сепак, ниту една од овие промени не привлече толку големо внимание и не предизвика толку многу реакции како одлуката да се забрани навредувањето на чет-ботовите на компанијата.

Одлуката повторно го отвори прашањето дали треба да бидеме кратки и директни или љубезни кога користиме алатки за генеративна вештачка интелигенција.

Некои експерти сметаат дека пишувањето или изговарањето „те молам“ и „благодарам“ кон алатки како ChatGPT е непотребно и троши токени – единици што големите јазични модели ги користат за обработка на барањата и генерирање одговори.

Други, пак, тврдат дека љубезноста може да придонесе за поквалитетни одговори.

Кога минатата година еден корисник на X праша колку чини електричната енергија што ја троши ChatGPT одговарајќи на пораките „те молам“ и „благодарам“, директорот на OpenAI, Сем Алтман, одговори дека станува збор за „десетици милиони долари добро потрошени – никогаш не се знае“.

Во меѓувреме, Collins Dictionary во ноември минатата година го истакна повторното појавување на терминот „clanker“, кој се користи како погрден назив за алатките со вештачка интелигенција.

Терминот се користи за опишување роботи во филмовите и видеоигрите од франшизата „Војна на ѕвездите“ уште од средината на 2000-тите. Минатиот јули, многу корисници на TikTok почнаа да ги споделуваат своите фрустрации од машините со вештачка интелигенција, по што зборот се најде на потесниот список на термини што го одразуваат расположението во 2025 година.

Некои експерти, исто така, сметаат дека грубото однесување кон чет-ботовите со вештачка интелигенција може негативно да влијае врз човечката комуникација, доколку таквиот начин на изразување се пренесе и во начинот на кој разговараме и се однесуваме кон другите луѓе.

Сподели

Сподели
Сподели
Сподели
Сподели
Сподели
Сподели
Сподели како слика
Google Постави го Медиасет за твој Google извор

Поврзани содржини

media-librarygpfflunfclr99l7Qxno

Два едноставни трика ќе ѝ го вратат волуменот на перјаната јакна по перењето

Вирално | пред 47 минути

media-librarypatd8f5vmmv6eZtSAC6

Четири намирници имаат повеќе протеини од јајцата, а се добри и за срцето

Вирално | пред 21 час

horoskop1

За три хороскопски знаци од утре започнува период на голем успех

Вирално | пред 23 часа

media-library43qqcuvmq7345p1dy6I

Мајкрософт го реши големиот дефект по повеќе од 24 часа: Еве што го предизвика прекинот

Технологија | пред 1 ден

Согласност за колачиња (cookies)

Нашата веб-страница користи колачиња за подобрување на корисничкото искуство и анализа на сообраќајот.

Дознај ексклузивно и прв

Прв ќе ги дознаваш ударните и вонредните случувања