Сейчас я активно изучаю самые вопросы, связанные с искусственным интеллектом: от прикладных приёмов, которые я использую в своей работе и которым обучаю своих коллег до, глубоких философских и мировоззренческих. В круг моего чтения давно вошли и Ник Бостром, и Ноам Хомский,и Джон Сёрл. Поэтому меня очень заинтересовало высказывание по этому поводу Фрэнсиса Фукуямы, глубокого мыслителя, автора одной из центральных философских работ второй половины XX века “Конец истории”.
К счастью, эта работа выложена в открытом доступе. Я впервые воспользовался услугами Deep Seek как переводчика и был удивлён, насколько корректно был сделан это перевод. Мои правки оказались чисто косметическими, не влияющими на содержание.
Я также благодарен телеграм-каналу “Малоизвестное интересное”, посвящённого проблемам алгокогнитивной культуры и искусственного интеллекта, который дал ссылку на этот материал.
И да, теперь я чаще буду публиковать переводы самых разных заинтересовавших меня материалов.
Сверхразума недостаточно
ИИ может дать ответы на множество вопросов, но самостоятельно построить новое общество ему пока не по силам.
У меня есть старый друг, с которым мы знакомы ещё со времён моего обучения в колледже, который сделал своё состояние как инвестор и предприниматель на переднем крае технологического мира. Что в нём оставалось неизменным на протяжении всех этих лет, так это его безграничное восхищение людьми, которых он считает «очень умными». Он имеет в виду нечто очень конкретное: они очень сильны в математике и преуспели в жизни, зарабатывая деньги с помощью своего интеллекта.
Он не одинок в этой своей идее фикс. Кремниевая долина — это настоящий собор для поклонения гениям — сначала таким, как Стив Джобс, Билл Гейтс и Илон Маск, — которые построили превосходящие всех в мире компании на основе применения новых технологий. Сейчас на пике технологии ИИ, где Сэм Олтман, Демис Хассабис и Ян Лекун стали новыми образцами гениальности.
И то, что строит это поколение, и в самом деле является интеллектом. Сейчас идёт гонка за создание искусственного общего интеллекта (ИОИ) — машины, которая будет обладать когнитивными способностями человека. Более того: передовые машины уже не программируют, они «растут» и, по некоторым данным, способны модифицировать себя для расширения собственных возможностей. Они не остановятся на человеческом уровне интеллекта, а станут разумнее людей. Такой «сверхразум» приведёт к огромным прорывам в науке, технологиях и экономике. Уже есть достижения на этом пути, как, например, проект Хассабиса AlphaFold, который решил проблемы сворачивания белков, казавшиеся не по силам более ранним технологиям.
***
Сегодня ведутся серьёзные дискуссии о будущем, и не таком уж далёком, когда передовые экономики, использующие сверхразумный ИИ, смогут достичь значительно более высоких темпов роста — 10, 15, 20 процентов в год, по сравнению с 2–3 процентами, которые сегодня считаются существенными. Материальная нужда исчезнет и уступит место схемам по субсидированию тех, чьи средства к существованию были вытеснены ИОИ, таким как безусловный базовый доход.
У этих предположений есть несколько проблем. Первая — та, которую я не в состоянии оценить: возможен ли вообще ИОИ или сверхразум. Такие авторы, как Эрик Ларсен, предполагают, что, хотя большие языковые модели хороши в отборе информации из огромных массивов существующих знаний, им не хватает того вида спекулятивного прозрения, которое когнитивный учёный Ч.С. Пирс назвал «абдукцией» и которое необходимо для подлинных инновационных открытий.
***
Давайте на минуту предположим, что ИОИ будет создан, и что машины станут в определённых отношениях разумнее людей. Есть веские основания полагать, что эта возможность многим будет преобразующей, но, возможно, не приведёт к взрывному экономическому росту, как ожидают апологеты ИИ.
Причина этого скептицизма в том, что сдерживающим ограничением экономического роста сегодня является вовсе не недостаток интеллекта или когнитивных способностей. Даже без умных машин, у людей сегодня в совокупности больше когнитивных способностей, чем в любой предыдущий момент истории человечества. Сдерживающее ограничение связано с тем, как этот интеллект взаимодействует с материальным миром бесчисленным множеством способов. Экономический рост в конечном счёте зависит от способности создавать реальные объекты в реальном мире. Умная машина, возможно, сможет придумать план создания лучшей мышеловки, но для того, чтобы фактически изготовить эту мышеловку, требуются усилия, находящиеся за пределами возможностей этой умной машины.
***
На макроуровне мы уже сталкиваемся с ограничением, при котором за слишком малым количеством товаров гоняется слишком много денег. Как годами утверждали пророки экологической катастрофы, в конечном счёте существуют материальные пределы роста. Самый очевидный из них — глобальное потепление, но есть и многие другие. Планета не имеет ресурсов, чтобы поддерживать 8 миллиардов людей с американским уровнем жизни; действительно, при 10-процентном годовом росте Китай, Америка и Европа вскоре исчерпали бы всё, включая сельскохозяйственные земли, воду, энергию и почти всё остальное.
На микроуровне существует проблема перевода работы умных машин в материальные блага. Создание новых продуктов всегда зависело от длительного итерационного процесса, в ходе которого конструктор пробует идеи, терпит неудачу и изменяет конструкцию в ответ. Как знают поколения строителей и изобретателей, никакой сверхразум никогда не сможет в достаточной степени смоделировать поведение материальных объектов в условиях существующего материального мира.
Наконец, есть политический и социальный уровень. Я присутствовал на презентации инженера из ведущей компании по разработке ИИ, который предположил, что в ближайшем будущем ИОИ сможет, например, обеспечить чистой питьевой водой нуждающиеся города в развивающихся странах.
***
Проблема в том, что причиной невозможности предоставить такие базовые услуги в бедных странах является не отсутствие знаний о том, как выглядит хорошая муниципальная система водоснабжения. Проблема — политическая и социальная. Люди не хотят платить более высокую цену, обусловленную новой системой водоснабжения; объединённые в профсоюзы работники муниципального водоканала не хотят терять свои рабочие места из-за автоматизации; владельцы бизнеса не хотят сбоев, которые произойдут, когда улицы будут перекопаны для прокладки новых труб; министр финансов считает, что есть другие приоритеты, и не может повысить налоги для оплаты новой системы. Во многих бедных странах существуют водяные мафии, которые скупают воду там, где она дёшево стоит, и перепродают её по завышенным ценам. Они вооружены и готовы применить насилие, если вы встанете у них на пути.
Сверхразумная машина, возможно, сможет понять эти проблемы, но у неё не будет способа их преодолеть. Мы уже знаем, как выглядит хорошая муниципальная система водоснабжения; чего у нас нет, так это плана внедрения, чтобы установить её в городе X.
***
Наше понимание роли интеллекта было искажено тем типом технологических изменений, которые произошли за последние пару десятилетий. Интернет, социальные сети и связанные с ними технологии основаны на программном обеспечении. За исключением серверов и облачных хранилищ, они не требуют создания новых, никогда не испытанных ранее устройств. В результате программное обеспечение очень легко масштабируется. Именно так Google, Meta и другие компании смогли так быстро превратиться в гигантов.
Компаниям, которые зарабатывают деньги, создавая материальные объекты в материальном мире, масштабироваться гораздо сложнее. Они тоже получают выгоду от эффекта масштаба, но достигают точки убывания доходности гораздо быстрее, чем софтверные компании. (Это, кстати, одна из причин, почему Tesla Илона Маска стала такой выдающейся историей успеха. Она успешно масштабировала производство материальных продуктов.) Мы каким-то образом стали рассматривать парадигму программного обеспечения как доминирующую, которая будет характеризовать эпоху ИИ, но экономические выгоды, которые сулит ИИ, не будут так легко масштабироваться.
Это не означает, что ИИ не приведёт к огромному росту производительности: взгляните, например, на прогнозы Джерри Каплана о будущем роботакси. Но умные люди, подобные тем, кто работает в Кремниевой долине, склонны переоценивать важность интеллекта в жизни в целом. Существует множество других способностей помимо интеллекта, которые делают человека хорошим и успешным, и множество других факторов, помимо тех, что может предоставить ИИ, которые необходимы для обеспечения экономического роста.
(с) Фрэнсис Фукуяма, 2025.
Фрэнсис Фукуяма — Старший научный сотрудник Центра по вопросам демократии, развития и верховенства права в Стэнфорде. Его последняя книга — «Либерализм и его разочарования». Он также автор колонки «Frankly Fukuyama» в некоммерческом онлайн-журнале Persuasion.
P.S.
А что вы думаете по поводу общего ИИ? И вообще, как вы используете ИИ?
