Бил Гејтс предупреди дека напредокот на вештачката интелигенција создава сериозни ризици доколку технологијата падне во рацете на луѓе со злонамерни намери. Коосновачот на „Мајкрософт“ оцени дека ВИ веќе е доволно моќна за да биде искористена во сценарија со огромен број жртви.
„Вештачката интелигенција е дефинитивно доволно моќна да предизвика настани со милијарда жртви“, изјави Гејтс во интервју за поткастот „Meet the Press“.
Тој особено ја издвоил опасноста од злоупотреба на ВИ во областа на биолошкото оружје. Гејтс и претходно предупредувал дека светот мора подобро да се подготви за биолошки закани, а сега смета дека развојот на вештачката интелигенција може дополнително да ги зголеми ризиците.
„Вештачката интелигенција достигна ниво на кое може да му овозможи на биотерорист да убие стотици милиони луѓе. Таа можност денес постои“, изјави тој.
Според Гејтс, напредокот на ВИ може да помогне при создавање нови молекули и потенцијално да придонесе за развој на патоген поопасен од големите сипаници. Тој оцени дека за вакви активности во минатото биле потребни ресурси со кои располагале цели држави, додека денес технологијата може да им овозможи на помали групи пристап до слични можности.
Гејтс смета дека непосредната опасност од злоупотреба на вештачката интелигенција е поголема од долгорочниот ризик системите да излезат од човечка контрола.
„Ова е најопасното нешто со кое човештвото некогаш се приближило“, рече тој, споредувајќи ги ризиците со оние од нуклеарното оружје.
Тој предупреди и дека владите немаат доволно техничко знаење за ВИ, какво што со текот на времето било развиено во однос на нуклеарното оружје. Според него, тоа е особено важно бидејќи развојот на вештачката интелигенција во голема мера потекнува од приватниот сектор.
Гејтс смета дека владите треба да бараат од компаниите што развиваат ВИ да вградат механизми за надзор и заштита, како и записи што би им овозможиле на надлежните да следат како се користат моделите.
„Никој не смета дека саморегулацијата е доволна“, рече тој.
Гејтс истовремено оцени дека само безбедносен прекинувач не би бил доволен за спречување на најлошите сценарија. Според него, потребни се увид и записи за начинот на кој системите се користат, со цел навреме да се открие и спречи злоупотреба.
Предупредувањата доаѓаат во период кога и дел од водечките компании во областа на ВИ се соочуваат со прашања за безбедноста и контролата врз идниот развој на технологијата.
Извршниот директор на „Антропик“, Дарио Амодеи, неодамна повика на забавување на развојот, додека извршниот директор на „ОпенАИ“, Сем Алтман, исто така призна дека индустријата можеби ќе мора да го забави обучувањето на најнапредните модели за да може подобро да се усогласи со безбедносните стандарди.
