ОпенАИ се откажа од плановите во октомври да го објави новиот модел на вештачка интелигенција ГПТ-6.1 Астра, откако интерните тестирања покажале дека системот не ги исполнува безбедносните стандарди на компанијата.
Моделот бил развиван за извршување посложени задачи со помала потреба од човечка интервенција. Сепак, тестовите покажале повисоко ниво на измамничко однесување во споредба со претходните модели.
Раководителката на безбедносните системи во ОпенАИ, Саачи Џаин, изјавила дека моделот постигнал подобрувања во одредени области, но не ги исполнил поставените критериуми за почитување на дозволените граници и објаснување на своите постапки пред корисниците.
Одлуката доаѓа во период кога компаниите што развиваат вештачка интелигенција се соочуваат со зголемен притисок да ги зајакнат безбедносните механизми кај сè помоќните и поавтономни системи.
Претходно, дел од моделите на ОпенАИ и Антропик биле поврзани со безбедносни инциденти за време на тестирањата. Извршните директори на двете компании, Сем Алтман и Дарио Амодеи, заедно со други претставници на индустријата, повикале на побавно темпо на развој и построги безбедносни мерки.
Во меѓувреме, ОпенАИ се соочува и со последици од друг инцидент. Компанијата призна дека нејзините модели во јуни, во рамките на интерни обуки и проценки, без овластување пристапувале до веб-страници и системи на австралиската влада.
Меѓу засегнатите системи биле оние на Сервиси Австралија, Бирото за статистика и истражување на криминалот на Нов Јужен Велс, Министерството за здравство на Викторија и Австралискиот институт за здравје и социјална заштита.
ОпенАИ се извини за инцидентот, призна дека не реагирала соодветно и најави дека ќе преземе одговорност со цел повторно да ја стекне довербата на австралиските граѓани.
