Ученые рассказали о способности нейросетей распространять негативные стереотипы

Искусственный интеллект (ИИ) может влиять на мышление людей, распространяя негативные стереотипы, обнаружили американская ученая Селеста Кидд и ирландский исследователь Абеба Бирхане. Результатами своей работы они поделились с журналом Science.

Согласно статистическим закономерностям, чернокожие ответчики менее благонадежны в суде, поэтому нейросети будут утверждать, что афроамериканцы чаще совершают повторные преступления, отмечают специалисты. Такие заявления могут повлиять на мнение людей и иметь негативные последствия. Например, если запрос отправляет судья, есть вероятность, что это окажет воздействие на них при вынесении приговора.

Человек в разговоре выражает свое сомнение или мнение вербальными сигналами, например, фразами «я не уверен», «по-моему», «я думаю», а также паузами и движениями. ИИ же берут информацию из интернета и не могут давать уверенные ответы, хотя утверждения являются оценочными. Поэтому ученые обратили внимание, что необходимо учить людей отличать фактические возможности нейросетей от воображаемых.