Профессор факультета политики в области информационных технологий Принстонского университета и научный сотрудник в Центре Интернета и общества Стэнфордского юридического факультета Арвинд Нараянян объяснил, что важно выявить и устранить предубеждения, существующие у машин. Он это связывает с тем, что люди сегодня часто обращаются к компьютерам для выполнения многих видов деятельности, таких как общение, онлайн-поиск и многое другое. Нараянян утверждает, что системы искусственного интеллекта могут приобрести социально неприемлемую тенденцию, от которой люди пытаются отойти.
В результате экспериментов было выявлено, что искусственный интеллект может считать цветы лучше насекомых, музыкальные инструменты лучше оружия. Это рядовые пристрастия. Но анализ 2,2 миллионов англо-американских и афроамериканских названий показал, что ИИ считают более приятными термины, в которых есть слова European_American.
Когда дело доходит до пола, исследователи обнаружили, что искусственный интеллект обычно ассоциируют женщин с такими словами, как «семья» и «свадьба», в то время как мужчина ассоциируется с такими профессиональными словами, как «зарплата» и «профессия». Анализ также показал, что женские слова были связаны с искусством, в то время как мужские слова связаны с наукой и математикой. Это означает, что искусственный интеллект не объективен и беспристрастен, как считают люди.
