Европската Унија подготвува построги правила за начинот на кој системите за вештачка интелигенција комуницираат со малолетници, со цел да се спречи создавање лажна емотивна поврзаност меѓу децата и чет-ботовите.
Европската комисија работи на правна рамка со која би се ограничило однесувањето на системите што кај ранливите тинејџери создаваат чувство на пријателство, љубов или психолошка поддршка. Во фокусот се и платформи како ChatGPT и Character.ai, а предложените правила би забраниле облици на манипулативна комуникација со малолетни корисници.
Според предложените насоки, чет-ботовите не би смееле да користат јазик на лична приврзаност, односно да тврдат дека им недостига корисникот, дека имаат чувства или дека можат да понудат замена за поддршката од блиските.
Експертите вклучени во консултациите предупредуваат дека прекумерното потпирање на виртуелни соговорници може да влијае врз социјалниот развој на децата и да придонесе за повлекување од реалните контакти.
Компаниите би требало да воведат построга проверка на возраста, како и механизми за прекинување на разговорите кога кај малолетен корисник ќе бидат забележани знаци на емотивна криза.
За непочитување на правилата се предвидуваат високи казни, кои би можеле да достигнат неколку проценти од годишниот глобален промет на компаниите. Новите одредби би се спроведувале преку Законот за вештачка интелигенција и Законот за дигитални услуги, со можност за независни проверки на системите и нивните одговори кон малолетници.
