Иако стотици милиони луѓе секојдневно користат системи со вештачка интелигенција за информации — од изборни резултати до вести — ново истражување на Европската радиодифузна унија (ЕБУ) открива алармантен проблем: chatbot-овите измислуваат и до 40% од своите одговори, прикажувајќи ги како факти.
Истражувањето, спроведено меѓу 68 јавни радиодифузери од 56 земји, ја тестирало точноста на најпопуларните системи – ChatGPT, Claude, Gemini и Microsoft Copilot. Резултатите покажале дека ниту еден од нив не функционира без грешки.
Според експертите, chatbot-овите често создаваат таканаречени „халуцинации“ – убедливи, но целосно измислени информации. Така, ChatGPT тврдоглаво инсистирал дека папата Франциск е жив, Copilot не знаел дека Шведска е членка на НАТО, а Google Gemini тврдел дека Доналд Трамп допрва ќе биде повторно избран.
„Овие системи звучат убедливо дури и кога кажуваат очигледни невистини“, предупредува професорот Петер Пош од Техничкиот универзитет во Дортмунд. „Токму затоа се опасни, бидејќи просечниот корисник не може веднаш да ги забележи грешките.“
Халуцинациите најчесто се јавуваат при теми од регионален карактер, актуелни настани или прашања што бараат поврзување на повеќе различни извори.
Истражувањето предупредува дека ширењето на лажни информации преку chatbot-ови може сериозно да ја поткопа јавната доверба и демократските процеси.
Корисниците често ги споделуваат невистините без проверка, ученици и студенти ги вклучуваат во академски трудови, а граѓаните ризикуваат да донесуваат важни одлуки – вклучително и изборни – врз основа на неточни податоци.
Дополнителен проблем претставува тоа што многумина не се свесни дека chatbot-овите можат да „измислуваат“. Иако условите за користење формално предупредуваат на можни грешки, речиси никој не ги чита.
Истовремено, chatbot-овите често погрешно се повикуваат на реномирани медиуми – како германските јавни сервиси ARD или ZDF – со што ја нарушуваат довербата во традиционалното новинарство.
Причината лежи во самата структура на технологијата: вештачката интелигенција не разбира што „вели“, туку само предвидува која зборовна комбинација е најверојатна според претходно обработени текстови. Таа нема вистинско знаење, ниту може да провери факти.
Технолошките компании вложуваат милијарди за да го решат проблемот, интегрирајќи бази на податоци и системи за проверка на извори, но „халуцинациите“ остануваат нерешен и суштински дефект на моменталната технологија.
Европската радиодифузна унија апелира на внимателност при користење на вештачката интелигенција:
никогаш да не ѝ се верува слепо,
сите важни информации да се проверуваат од независни и проверени медиуми,
а посебна претпазливост да се применува при теми поврзани со политика, здравство и финансии.
Според ЕБУ, училиштата и универзитетите треба да го зајакнат образованието за медиумска писменост, за младите да препознаваат дезинформации создадени од АИ.
До тогаш, важи едноставно правило:
Chatbot-овите се добри за креативни задачи – но не и како извори на вистински информации.
