Специалисты Apple Computer Company озвучили свой вывод: ответы, что дают пользователям крупные языковые модели (LLM), такие как ChatGPT, создают лишь иллюзию интеллекта, но не являются на деле продуктом реального логического рассуждения. Результаты исследования авторы работы опубликовали на сервере препринтов arXiv.
Команда сосредоточила внимание на способности разумных существ, в том числе людей, разделять важную и не самую существенную информацию в ситуациях, что требуют логического анализа. Истинный интеллект — это умение понимать суть, игнорируя ненужные данные.
Протестировать это исходное утверждение исследователи решили, включив в свои вопросы для LLM небольшой объем лишней информации. Они задавали сотни вопросов, что ранее использовали для проверки языковых моделей, но добавляли дополнительные данные, которые не относились к теме. Задачей было понять, смогут ли LLM игнорировать лишнюю информацию и дать верный ответ.
Эксперимент показал, что LLM часто отвлекаются на ненужные детали и давали неправильные или бессмысленные ответы на те же вопросы, на которые ранее реагировали правильно. Это говорит об отсутствии у LLM способности к настоящему пониманию и рациональному мышлению.
LLM, как выяснилось, склонны выдавать правдоподобные на первый взгляд ответы, но при внимательном рассмотрении они оказывались неверными. То есть, они лишь выявляют шаблоны в текстах и выдают ответы, основываясь на статистической обработке заложенных в них данных.
Добавим: недавно немецкие ученые провели исследование, показавшее, как часто ИИ делает ошибки в медицинских рекомендациях и насколько это опасно для пациентов.
