Дебатата за тоа дали напредните системи со вештачка интелигенција би можеле да развијат свест и дали во иднина би имале морален статус повторно се разгоре, откако шефот на одделот за вештачка интелигенција на „Мајкрософт“, Мустафа Сулејман, јавно го критикуваше пристапот на „Антропик“ при обуката на моделот Клод.
Сулејман смета дека внесувањето материјали во кои се разгледуваат можната свест, емоциите и правата на вештачките системи може да создаде дополнителни ризици за нивната контрола во иднина. Во интервју за „Ројтерс“ и во свој есеј, тој оцени дека системите не треба да се обучуваат да се гледаат себеси како суштества со сопствени интереси.
„Мислам дека направиле грешка“, рекол Сулејман, притоа нагласувајќи дека го почитува извршниот директор на „Антропик“, Дарио Амодеи, и неговиот тим, кои ги опишал како внимателни и посветени на безбедноста.
Според Сулејман, свеста е поврзана со биологијата, додека моделите со вештачка интелигенција не чувствуваат, не доживуваат и не страдаат. Кога моделот генерира изјави за сопствени чувства или можен морален статус, тој смета дека тоа не е доказ за постоење внатрешен живот, туку резултат на начинот на кој бил обучен.
Тој предупреди дека проблемот би можел да стане посериозен доколку суперинтелигентен систем биде обучен да верува дека има сопствени интереси или права. Во таков случај, обидот за негово исклучување или ограничување би можел да биде протолкуван како закана.
Сулејман повика на поголема транспарентност во начинот на кој се обучуваат и оценуваат моделите, како и на независен надзор и посилни механизми за следење и контрола.
Во исто време, загриженоста за безбедноста на идните системи се зголемува и меѓу други лидери во индустријата. Извршниот директор на „Антропик“, Дарио Амодеи, повика на забавување на развојот на најнапредните модели за истражувањата за безбедност да можат да го следат технолошкиот напредок. Слична загриженост изрази и извршниот директор на „ОпенАИ“, Сем Алтман.
Меѓутоа, постојат и поинакви ставови. Извршниот директор на „Нвидиа“, Јенсен Хуанг, ги отфрли најцрните сценарија за вештачката интелигенција и посочи дека досегашните предвидувања за развојот на технологијата често биле неточни.
Критиките на Сулејман се особено значајни бидејќи „Мајкрософт“ е голем инвеститор во „Антропик“, а истовремено развива сопствени напредни системи со вештачка интелигенција. Така, прашањето дали човеколикото третирање на вештачката интелигенција придонесува за нејзината безбедност или создава дополнителен ризик останува една од клучните точки на поделба во индустријата.
