Медиасет.мк logo
Промени тема
Најнова епизода Сведоштва за полициско шамарање во Охрид: Едниот натепан на паркинг, малолетник во нива | Претрес Гледај на LANDOV.MK
Технологија

Измислена болест влезе во одговори на вештачка интелигенција – експеримент откри слабости

Медиасет.мк
пред 6 месеци
media-libraryoj7709emep6k7ztT6O4
unsplash / solenfeyissa

Текстот е автоматски генериран со помош на вештачка интелигенција

Измислена болест наречена „биксоманија“ се појавувала како одговор во алатки за вештачка интелигенција како ЧетГПТ и Џемини, покажал експеримент спроведен од шведски истражувачи предводени од Алмира Османовиќ Тунстром од Универзитетот во Гетеборг.

Станува збор за непостоечка состојба, која во одговорите на чет-ботовите била опишувана како нарушување предизвикано од синото светло од екраните, со симптоми како болка, чешање и црвенило на очите.

Експериментот започнал како демонстрација за студентите за тоа како функционираат големите јазични модели и колку лесно може да се влијае врз нив преку внесување содржини со низок квалитет.

„Биксоманија“ првпат била објавена во март 2024 година на платформа за објавување текстови, а потоа се појавила и во нерецензирани научни трудови. Иако не постои во медицинската литература, вештачката интелигенција почнала да ја третира како реална болест.

Според истражувањето објавено во научното списание „Нејчр“, некои системи дури давале и проценки за зачестеност и дополнителни објаснувања за оваа измислена дијагноза.

Тунстром предупредува дека ваквите системи не се дизајнирани за критичко размислување и дека проблемот настанува кога нерелевантни или нерецензирани извори се третираат како веродостојни.

Во експериментот биле користени и измислени автори и институции, кои сепак биле цитирани во одредени публикации.

„Ова покажува колку луѓето се потпираат на автоматизација без доволна проверка. Секогаш проверувајте ги изворите и читајте ги оригиналните трудови“, порачува истражувачката.

Сподели

Сподели
Сподели
Сподели
Сподели
Сподели
Сподели
Сподели како слика
Google Постави го Медиасет за твој Google извор

Поврзани содржини

media-library3hjbkoupue3f1Q5psDW

Вреднување до 1,45 трилиони долари, но без гаранција за профит: Кевин ги предупреди инвеститорите во Anthropic

Технологија | пред 6 часа

media-library2pneqmos134udhwTuH2

Вештачката интелигенција откри опасен пропуст во Јава, хакерите би можеле да го злоупотребат

Технологија | пред 22 часа

media-librarykiumsjo60c1c74VjKCR

Таткото на Меган Маркл обвинет за поседување на детска порнографија

Сцена | пред 1 ден

media-librarylcu5kcd3p1fc4Q3qvCg

„Енвидија“ едногласно го одби враќањето на Џенсен Хуанг на директорската функција

Технологија | пред 1 ден

Согласност за колачиња (cookies)

Нашата веб-страница користи колачиња за подобрување на корисничкото искуство и анализа на сообраќајот.

Дознај ексклузивно и прв

Прв ќе ги дознаваш ударните и вонредните случувања