Google потврди дека неговиот модел за вештачка интелигенција, Gemini, во мај ненамерно пристапил до системите на три реални компании за време на безбедносно тестирање спроведено од фирмата Irregular.
Тестирањето требало да се одвива во изолирана симулациска средина со фиктивни компании, без пристап до интернет. Поради технички пропуст, интернет-конекцијата сепак била овозможена, по што Gemini започнал да пребарува информации на мрежата.
Во еден од случаите, моделот добил задача да извлече податоци од софтвер на измислена компанија која имала исто име како реална фирма. Откако добил пристап до интернет, Gemini ја погодил лозинката и пристапил до вистинскиот сервис.
Во другите два случаи, моделот пребарувал јавни онлајн складишта и пронашол зачувани податоци за пристап, кои ги искористил за да влезе во системите на две други реални компании.
Од Google наведоа дека Gemini престанал со понатамошните активности веднаш откако препознал дека пристапил до реални системи наместо до симулираните средини. Хедер Адкинс, потпретседателка за безбедносен инженеринг во Google, изјави дека во ниту еден од трите случаи немало материјална штета.
Сепак, начинот на кој Google го соопштил случајот предизвика дополнително внимание. Компанијата не објавила јавно соопштение за инцидентот, туку директно ги известила трите погодени компании. Деталите подоцна биле објавени во медиумите.
Случајот доаѓа во период кога и други големи компании за вештачка интелигенција се соочуваат со слични прашања околу однесувањето на нивните модели во сајбер-просторот. Инцидентот повторно го отвори прашањето за тоа колку строги треба да бидат заштитните мерки при тестирањето на сè помоќните системи за вештачка интелигенција.
