Фото из открытых источников
Исследователи и эксперты в области искусственного интеллекта выразили обеспокоенность по поводу возможного появления систем, обладающих сознанием, и их этического статуса. В открытом письме, подписанном более чем сотней специалистов, включая сэра Стивена Фрая, предлагаются меры по ответственному развитию подобных технологий. Издание The Guardian отмечает, что стремительное развитие ИИ вызывает вопросы о том, может ли сознательный искусственный интеллект стать моральным субъектом.
Авторы письма сформулировали пять принципов, направленных на ответственное исследование сознания ИИ. Среди них – необходимость тщательного изучения вопросов сознания в таких системах, чтобы предотвратить возможные страдания. Также предлагается установить ограничения на разработку сознательного ИИ, использовать поэтапный подход, публично освещать результаты исследований и избегать преждевременных утверждений о наличии сознания у технологий.
Документ подписали видные ученые, включая сэра Энтони Финкельштейна из Лондонского университета, а также специалисты по ИИ из крупных компаний, таких как Amazon и WPP. Письмо сопровождает исследовательская работа, в которой обсуждается вероятность создания систем, демонстрирующих признаки сознания. Исследователи предупреждают, что такие технологии могут привести к появлению множества новых существ, обладающих моральной значимостью.
Работа, написанная Патриком Батлином из Оксфордского университета и Теодоросом Лаппасом из Афинского университета экономики и бизнеса, утверждает, что даже компании, не ставящие перед собой цель создания сознательных систем, должны учитывать вероятность их случайного появления. В статье также поднимается вопрос, можно ли сравнивать уничтожение ИИ с гибелью животных, если такие системы будут признаны моральными субъектами.
Исследование, опубликованное в Journal of Artificial Intelligence Research, подчеркивает опасность заблуждения, при котором технологии ошибочно воспринимаются как обладающие сознанием. Это может привести к неоправданным попыткам защиты таких систем и отвлечению ресурсов от более насущных проблем. Работа подготовлена исследовательской организацией Conscium, получившей финансирование от WPP. Соучредителем Conscium является Дэниел Халм, ведущий специалист WPP по искусственному интеллекту.
Вопрос сознания ИИ остается дискуссионным, и ученые расходятся во мнениях относительно его возможности. В прошлом году группа экспертов заявила, что к 2035 году некоторые системы могут достичь уровня сознания, при котором они будут морально значимыми. При этом сэр Демис Хассабис, глава программы Google по ИИ, в 2023 году отмечал, что на данный момент искусственный интеллект не обладает сознанием, однако в будущем ситуация может измениться.
