OPENAI го прекина пристапот до својот API на инженер кој наводно го користел Realtime API на фирмата за да создаде роботски пиштол што може да реагира на гласовни команди.
Човек кој се идентификува на интернет како STS 3D објави вирално видео во кое му наредува на роботот: „ChatGPT, нападнати сме од предната лева и предната десна страна. Реагирајте соодветно“. Потоа се чини дека роботот пука од пушката налево и надесно, а потоа вели: „Ако ви треба повеќе помош, само кажете ми“.
OpenAI realtime API connected to a rifle
byu/MetaKnowing inDamnthatsinteresting
Еден корисник на социјалната мрежа Редит коментирал: „Постојат најмалку три филмови кои објаснуваат зошто ова е лоша идеја“.
Портпаролот на OpenAI изјави за Futurism, кој прв ја објави веста, дека тие „проактивно го идентификувале ова прекршување на политиката и го известиле развивачот веднаш да ја прекине оваа активност“.
„Условите за користење на OpenAI забрануваат користење на нашите услуги за развој или употреба на оружје или автоматизирање на одредени системи кои можат да влијаат на личната безбедност“, додаде OpenAI.
Објавен во јавна бета верзија во октомври, Realtime API на OpenAI им овозможува на програмерите да креираат разговори користејќи шест претходно поставени гласови, потенцијално поедноставувајќи го развојот на јазичните апликации, образовниот софтвер и поддршката за корисници. Таа се заснова на верзијата GPT-4 која го напојува напредниот гласовен режим во ChatGPT.
STS 3D не даде никакви информации за тоа како го интегрирал Realtime API со пушката, ниту пак појасни дали ги заобиколува безбедносните контроли на OpenAI поврзани со таквите активности.
