Человечество стоит на пороге новой эры, которая обещает как уникальные возможности, так и серьезные угрозы. Об этом в интервью с профессором МГУ и иностранным членом РАН Аскаром Акаевым говорит корреспондент "Российской газеты".
Аскар Акаевич, в вашей статье, написанной совместно с профессором Ильей Ильиным и профессором Андреем Коротаевым, вы делаете тревожный прогноз о том, что в ближайшие годы человечество может столкнуться с так называемой сингулярностью. Это слово вызывает ассоциации с "черными дырами", из которых невозможно выбраться. Каковы последствия этой сингулярности?
Аскар Акаев: Во-первых, многие астрофизики готовы пересмотреть свои взгляды на "черные дыры", но это отдельная тема. Мы говорим о технологической сингулярности, которая может наступить уже в 2027-2029 годах, когда искусственный интеллект достигнет уровня, сопоставимого с человеческим. Он сможет решать задачи, доступные только высококвалифицированным специалистам.
Однако наиболее удивительным является именно момент появления этого ИИ. Кажется, будто всё это было предопределено, так как множество глобальных процессов сошлось в одно время.
Запрограммировано? Это звучит почти мистически. Можете объяснить, что вы имеете в виду под технологической сингулярностью?
Аскар Акаев: Это этап, когда человечество войдёт в область неопределенности, где происходят такие радикальные изменения, что трудно предсказать, как мы из неё выйдем. Мы предполагаем, что этот "странный" период начнётся в 2027-2029 годах и будет длиться 15-20 лет.
И именно искусственный интеллект приведёт нас в эту эпоху?
Аскар Акаев: Всё гораздо сложнее. Поражает само время появления ИИ, которое совпадает с изменениями в нескольких глобальных процессах.
Человечество должно заранее согласовать и внедрить в нейронные сети, если можно так выразиться, "генетический код" дружелюбия и симбиоза с человеком.
Начнём с демографии. В конце XIX и начале XX века наблюдался резкий рост населения, который продолжается уже несколько десятилетий. Вспоминая британского ученого Мальтуса, который предсказывал бесконечный рост населения, математики позже подтвердили его теории формулами, предсказывая "Судный день" в 2026 году, а затем перенесли его на 2027 год.
Однако в начале 60-х годов, без каких-либо указаний со стороны властей, рождаемость начала стабильно снижаться. Таким образом, хотя население будет продолжать расти, темпы его увеличения замедлятся.
К каким последствиям приведёт это замедление?
Аскар Акаев: По прогнозам Сергея Петровича Капицы, к 2100 году численность населения достигнет 11,4 миллиарда. В то время как наши расчёты с академиком Садовничим показывают, что к середине века население не превысит 9 миллиардов, а к концу XXI века уменьшится до 7,9 миллиарда, что будет связано с внедрением интеллектуальных систем во все сферы жизни.
Однако замедление затрагивает не только демографию. Наш астрофизик Александр Панов и американский исследователь Рэймонд Курцвейл показали, что замедление охватывает макроэволюцию всех аспектов жизни, даже эволюцию Вселенной.
Профессор Андрей Коротаев математически подтвердил, что все три эволюционных процесса тысячелетиями развивались с ускорением, но затем начали замедляться, и их графики сошлись в одной точке в 2027-2029 годах.
Три независимых глобальных процесса оказались в одной точке времени. Как это возможно? Вероятность такого совпадения кажется ничтожной.
Аскар Акаев: Тем не менее, математические модели подтверждают это. Более того, в тот момент, когда человечество достигает предела своего эволюционного развития, появляется ИИ с противоположной тенденцией — стремительно растущий. Таким образом, он может стать катализатором эволюции, значительно ускоряя её.
ИИ, по сути, может стать спасителем нашей цивилизации в момент её спада. Такие совпадения кажутся фантастическими, и возникает вопрос: не вмешивались ли высшие силы в это?
Аскар Акаев: Честно говоря, у меня пока нет ответа на этот вопрос. Остаётся надеяться, что наука в будущем даст ответ.
Вернёмся к сингулярности, которая начнётся в 2027-2029 годах. Почему мы не знаем, какие законы будут действовать в этой эпохе? Почему она полна неопределенности?
Аскар Акаев: Мы не можем предсказать, как будет складываться взаимодействие человека и ИИ. Есть два возможных сценария: либо мы выйдем из сингулярности вместе с ИИ, либо он сделает это вместо нас, что может иметь негативные последствия для человечества.
Вспоминаются Илон Маск и Сэм Альтман, которые утверждают, что к 2030 году появится мощный суперразум, способный самосовершенствоваться и превосходить человеческий интеллект многократно, делая людей ненужными.
Аскар Акаев: Это напоминает концепции "Геи" и "Медеи", где первая призвана помогать человечеству, а вторая — к его самоуничтожению. Какая из этих концепций станет реальностью, пока неизвестно. Сторонники каждой из них примерно поровну.
Всё зависит от того, как будет реализован ИИ. Если он будет работать в симбиозе с человеком и под его контролем, то это может привести к варианту "Геи" с впечатляющими прорывами во всех сферах. В противном случае, если ИИ выйдет из-под контроля и станет конкурентом, это приведёт к варианту "Медеи" и деградации человека. Следующие 15-20 лет будут временем как огромных возможностей, так и серьёзных рисков — это самый ответственный момент в истории человечества.
Если взглянуть на историю, то она полна войн. Речь идёт о возможности Третьей мировой войны, и люди будут снова сражаться с примитивным оружием. Возможно, именно суперразум остановит эти конфликты, ведь ему важно выживание, а не гибель вместе с людьми.
Аскар Акаев: По этой логике, ИИ может решить, что избавиться от людей — это наилучший способ обеспечить своё существование. И тогда мы получим "Медеи".
Наука должна остановить сторонников идеи суперразума, но возможно ли это? Все страны провозгласили, что "ИИ — это наше всё!". Началась гонка, победители которой будут править миром. В этом хаосе трудно различить, где "Гея", а где "Медея".
Аскар Акаев: Главная угроза современных систем ИИ, особенно больших языковых моделей, заключается в их "черном ящике". Когда ИИ контролируется человеком, он всегда может иметь последнее слово в решениях. Но если всё отдано на откуп этому "ящику", то возникают непредсказуемые последствия.
Есть ли выход? Да, главный принцип создания ИИ должен заключаться в том, что чем больше в модели математики, тем меньше "черного ящика". Современные системы базируются на чётких причинно-следственных связях, что позволяет понять, как они функционируют. Такие модели были разработаны ещё в 1950-60 годах нашими великими математиками Андреем Колмогоровым и Владимиром Арнольдом. На их основе создаются нейронные сети, которые применяются в научно-технологических задачах, требующих соблюдения этих связей.
Если мы понимаем, как работает ИИ, и "черный ящик" становится прозрачным, значит, он под контролем. Почему тогда многие опасаются "Медеи"?
Аскар Акаев: К сожалению, мы можем контролировать только ИИ человеческого уровня. Суперразум, о котором идёт речь, будет действовать независимо, и его невозможно будет контролировать. Человечеству необходимо заранее договориться и встроить в нейронные сети "генетический код" дружелюбия и симбиоза с человеком, чтобы передавать этот "ген" следующим поколениям ИИ для обеспечения их поведения.
Справка "РГ"
Сингулярность (от лат. singularis "единственный, особенный") — уникальное состояние, которое может быть трактовано по-разному в различных областях. Например, в философии это событие, которое открывает новые возможности. Технологическая сингулярность подразумевает, что развитие науки и техники станет неуправляемым, что приведёт к резким изменениям в цивилизации. Космологическая сингулярность — предполагаемое состояние Вселенной в момент Большого взрыва. Гравитационная сингулярность — теоретическое понятие, которое обозначает точку, после которой пространство прекращает существовать.
