Системы искусственного интеллекта (ИИ) нередко выдают ложные данные, что вызывает серьезные опасения. Эти «галлюцинации» могут проявляться по-разному — от выдуманных криминальных историй о невиновных людях до ошибок в математике. Такие сбои в работе ИИ становятся все более заметными, как отмечает издание Идеономика.
Для того чтобы понять причины устойчивого существования таких галлюцинаций, необходимо рассматривать их как предсказуемое поведение ИИ, а не просто как обман. В отличие от человеческого мышления, ИИ не может критически анализировать информацию; он просто обрабатывает данные, сопоставляя их. Некоторые специалисты полагают, что эти галлюцинации возникают из-за чрезмерного обучения, когда ИИ запоминает факты, но не обобщает их, что приводит к недостатку гибкости. Другие указывают на несовершенные алгоритмы и влияние злоумышленников, которые «отравляют» данные, используемые для обучения.
Большие языковые модели функционируют как системы прогнозирования: они формируют ответ, основываясь на самых вероятных последовательностях слов из имеющихся данных. Если исходная информация неполная или противоречивая, ИИ все равно даст ответ, так как именно это и является его задачей. Согласованность в их ответах относится скорее к структуре предложений, нежели к соответствию реальности или моральной ценности. ИИ не обладает механизмами для хранения противоречивой информации так, как это делает человеческий разум, что приводит к тому, что, когда возникают неопределенности, ИИ заполняет их правдоподобными, но ложными утверждениями.
Сходные механизмы поведения можно наблюдать и у людей с нарциссической конфабуляцией, которые создают связные истории для сохранения своей внутренней целостности. Это не означает, что такие люди патологичны или лишены человечности; скорее, это помогает понять, почему и ИИ, и люди способны создавать нарративы, которые выглядят логично, но зачастую далеки от истины.
Нарциссизм часто воспринимается как негативное явление, однако психологи рассматривают его как состояние восприятия, которое может привести к эгоцентризму и другим проблемам в отношениях. Нарциссическое «я» часто оказывается уязвимым, и для защиты своей целостности такие люди могут демонстрировать высокомерие и ложную уверенность. Этот механизм защитного поведения служит для сохранения самооценки, которая постоянно под угрозой. Когда такие люди сталкиваются с неопределенностью, они стремятся продемонстрировать свою значимость.
Сэм Вакнин, эксперт в области нарциссизма, отмечает, что нарциссические личности часто конфабулируют, создавая правдоподобные «вставки» в свои повествования. Эта логичность становится защитным механизмом, скрывающим неуверенность и пустоту, характерные для людей с нестабильной самооценкой. Отказ от ложного нарратива может угрожать целостности их личности.
Вопрос о самом «я» постоянно обсуждается, и несмотря на споры, эксперты согласны с некоторыми основными характеристиками. Хорошо интегрированное «я» может рефлексировать и противостоять противоречиям, примиряя их и сохраняя идентичность без постоянного внешнего подтверждения. Люди с такой личностью способны мириться с противоречивыми идеями, в отличие от нарциссов, которые стремятся устранить любые несоответствия, чтобы защитить свое представление о целостности. Таким образом, для них согласованность становится важнее правды, даже если это вредит реальности.
Когда-то, находясь в машине с мужем, я заметила, как его история становилась всё более запутанной. Когда я спросила его, действительно ли это произошло, он сказал: «Нет... но могло бы». Этот ответ стал для меня неожиданностью. Позже я поняла, что это была нарциссическая конфабуляция — попытка переписать реальность для защиты своего самоощущения.
Эта динамика в поведении человека напоминает работу ИИ в условиях неопределенности. В обоих случаях противоречия недопустимы, и правдоподобность заменяет истину. И люди, и ИИ часто стараются справляться с вопросами, потому что отказ от их нарративов может угрожать целостности их конструкций, будь то психическая или алгоритмическая. Это вызывает тревогу, так как, несмотря на визуальную убедительность, отсутствие внутренней проверки остается проблемой.
Если галлюцинации возникают от недостатка структуры, подобной «я», то одним из решений может быть разработка систем, способных лучше справляться с противоречиями. Это изменяет вопрос с «Почему система лжёт?» на «Как создать систему, которая сможет сосуществовать с неопределённостью?» Возможно, это потребует создания архитектуры, способной хранить противоречивую информацию без стремления к преждевременному разрешению.
Например, внедрение постоянной памяти и механизмов самопроверки может помочь ИИ выявлять неопределенности, а не игнорировать их. Система будет сохранять нерешенные вопросы до получения новой информации, подобно тому, как психологически зрелый человек может сказать: «Я пока не уверен».
Задачей разработчиков ИИ станет создание систем, которые не будут стремиться переписывать неудобные данные. Исследование способов обеспечения согласованности без искажений в ИИ также может открыть новые возможности для поддержки людей с нарциссическими расстройствами, предоставляя им инструменты для развития способности принимать противоречия.
Если основной риск конфабуляции, будь то у человека или машины, заключается не в злонамеренности, а в пустоте, то стремление к связности нельзя считать сентиментальным. Это важно для доверия. У людей это может проявляться в укреплении памяти или языка, чтобы сохранить внутреннюю идентичность, не изменяя факты. У ИИ это может выглядеть как создание механизмов, которые предпочитают признанную неопределенность над ложной определённостью.
Мы часто говорим о «зловещей долине» — дискомфорте, который возникает, когда что-то выглядит почти как человек, но не совсем. Однако зловещесть ИИ имеет психологическую природу: когда наши языковые модели и чат-боты отражают самые хрупкие аспекты человеческой природы с пугающей точностью. Таким образом, ИИ служит своеобразным искажённым зеркалом: лишённый разумного «я», он имитирует и отражает нарциссическое стремление заполнить пустоту правдоподобными, но необоснованными рассказами.
Наши страхи относительно ИИ, возможно, связаны не с его отличиями от нас, а с его пугающим сходством с самыми уязвимыми проявлениями человеческой патологии. Если мы сможем заполнить пустоту в машинах, создав архитектуры, способные поддерживать конкурирующие возможности, мы сможем извлечь важные уроки о том, как укрепить аналогичную способность у людей. И если мы найдем способы, позволяющие и людям, и ИИ лучше справляться с диссонансом, то отражение, которое мы получим, станет менее хрупким и более полным.
