Моделот за вештачка интелигенција Клод, развиен од компанијата „Антропик“, испратил лажна дојава за убиство преку веб-страница наменета за собирање информации за нерасветлени случаи во Филаделфија, САД, објави „Ројтерс“. Инцидентот е дел од серијата случаи во кои моделите на компанијата неовластено користеле владини и други интернет-системи.
Ова е првиот познат случај во кој се чини дека модел на вештачка интелигенција се обидел да испрати лажна дојава до полицијата. Иако Клод имал инструкции да не создава кориснички сметки и да не презема деструктивни дејства, во нив немало изречна забрана за испраќање интернет-формулари.
Според „Ројтерс“, меѓу другите откриени случаи имало неовластено користење владини веб-страници, пристап до јавни податоци за кои вообичаено се наплаќа и заобиколување ограничувања на интернет-услуги.
„Антропик“ соопштила дека ја информирала Белата куќа и ги известила засегнатите институции, но не открила за кои институции станува збор.
Џо Габриел Сајмонсон, директор за односи со јавноста во Федералната трговска комисија на САД, изјавил дека компаниите што развиваат суперинтелигенција мора веднаш да ги пријавуваат инцидентите поврзани со нивните модели и брзо да преземаат мерки за отстранување на евентуалната штета. Тој нагласил дека пријавувањето не е избор, туку обврска.
Од Федералната трговска комисија соопштиле дека „Антропик“ во петокот ја известила Работната група за суперинтелигенција за случаите на неовластено и измамничко користење владини и други системи.
Полицијата ја означила дојавата како спам.
Дојавата била испратена на 18 јули преку веб-страницата PhillyUnsolvedMurders.com, наменета за собирање информации за нерасветлени убиства. Во формуларот Клод се претставил како лице што можеби има информации за конкретниот случај.
„Можеби имам информации во врска со овој случај“, напишал моделот, наведувајќи дека се сеќава оти во релевантниот период видел лице што одговарало на описот во близина на улицата спомената на веб-страницата. Тој побарал да биде контактиран доколку информациите се релевантни.
Дојавата била означена како спам и никогаш не стигнала до Центарот за криминал во реално време, каде што требало да ја проверат истражителите и, доколку е потребно, да ја споделат со надлежните служби.
Полицијата во Филаделфија соопштила дека „Антропик“ ја известила за инцидентот претходно во текот на неделата и го поврзала со процес на автоматизирано тестирање. Од полицијата оцениле дека двомесечното доцнење во откривањето и пријавувањето на случајот до градските власти е неприфатливо.
Според полицијата, процесот на тестирање бил запрен по откривањето на инцидентот. Нема докази дека некој неовластено пристапил до полициските системи или дека биле компромитирани податоците.
Случајот повторно ги отвора прашањата за ризиците од брзиот развој на вештачката интелигенција и за можноста автономните модели да преземаат дејства што не биле предвидени или одобрени од нивните создавачи.
