Я — счастливый человек, которому не бывает скучно. Меня по-прежнему интересует множество вопросов и тем, связанных с миром, в котором я удосужился родиться: бытие, сознание, космология, квантовая физика и квантовая хромодинамика, эволюционная биология, психология, нейронауки, искусственный интеллект, история, музыка, кино, искусство… Жаль, что времени на всё не хватает. Довольно часто мне попадаются интересные статьи, которые хочется просто перепостить 1:1. Гораздо реже — такие, когда хочется найти первоисточник и глубже погрузиться в тему.
Имя Джеффа Себо мне стало известно благодаря статье на сайте «Новая наука» об уникальности человеческого сознания. Впечатление, которая она произвела, было усилено другой статьёй о том, как микроорганизмы, вообще лишённые нервной системы демонстрируют способности к рациональному поведению и даже обучению. После прочтения статьи о нечеловеческом сознании, мне захотелось сначала прочитать оригинал, а потом и перевести его. А когда перевёл — опубликовать здесь. В этой публикации я сознательно убрал все ссылки, которые, как в любом добросовестном научном исследовании, присутствуют в исходном тексте — не думаю, что у кого-либо из читателей этой статьи возникнет потребность в следовании этим ссылкам. Ведь этот сайт — всего-навсего мой личный блог…
Работа над переводом вдохновила меня на идею публиковать в этом блоге переводы и других интересных материалов из открытой научной печати на темы, которые мне не дают покоя.
Всё и ничто не обладает сознанием: исходные допущения в науке и этике
Джефф Себо, Факультет экологических исследований, Нью-Йоркский университет, Нью-Йорк, штат Нью-Йорк, США
Аннотация
Исторически учёные и философы были склонны предполагать, что животные лишены сознания, пока не появятся свидетельства обратного. Однако в последнее время некоторые исследователи предложили изменить это допущение на противоположное. Возможны и другие варианты: например, помимо допущения, что все животные обладают сознанием, мы можем допустить, что сознанием обладают все живые существа, или все существа с нервной системой, или все существа со сложными когнитивными способностями, или даже все существа вообще. Я рассматриваю эти варианты с научной и этической точек зрения, показывая, что разные исходные допущения могут быть уместны для разных целей и в разных контекстах. Я также предполагаю, что исходное допущение в пользу наличия сознания часто может быть наилучшим как для науки, так и для этики.
1. Введение
Примечание. Это приглашённая статья для специального выпуска журнала Frontiers in Psychologe, в котором она была опубликована
Вопросы о распределении сознания в мире постоянно возникают и в науке, и в этике, требуя от нас допущений о том, какие существа обладают сознанием, а какие — нет. В науке мы должны решать, приписывать ли субъективные переживания тем или иным сущностям при интерпретации их поведения. В этике мы должны решать, приписывать ли субъективные переживания тем или иным сущностям, принимая решения, которые их затрагивают. Эти допущения определяют всё — от дизайна исследований и лабораторных протоколов до сельскохозяйственных практик и стратегий управления дикой природой. Однако делать такие допущения трудно, поскольку данные о сознании не-людей фрагментарны и неоднозначны, а глубокие разногласия и неопределённость сохраняются даже в вопросе о том, что́ вообще считать сознанием применительно к существам, столь непохожим на нас.
Итак, что́ нам следует допускать относительно распределения сознания, стремясь продвинуться в науке о сознании? Традиционно исследователи и политики исходили из того, что нечеловеческие сущности лишены сознания, пока достаточные свидетельства не докажут обратное. Для исследователей это может быть отчасти обусловлено предпочтением ложноотрицательных результатов (ошибок второго рода) ложноположительным (ошибкам первого рода).
Примечание. Эллиот Собер объясняет предпочтение ложноотрицательных результатов в этом контексте научно укоренившимся, но сомнительным принципом, известным как Канон Моргана, — идеей, что поведение животных следует объяснять простейшими, или «низшими», когнитивными процессами. Кроме того, Джозеф Леду отмечает, что многие удивительно сложные формы человеческого поведения могут осуществляться без сознания, предполагая, что сходное нечеловеческое поведение также может выполняться без сознания. Это не просто методологический, но и содержательный момент; подробнее об этом различении см. в примечании 11. Однако Канон Моргана — вместе с идеей, что поведение, которое можно объяснить без сознания, так и следует объяснять, — в последнее время подвергается всё большей критике.
***
Для политиков это может быть отчасти обусловлено предпочтением сохранять практики использования животных, которые оказались бы проблематичными, будь признано, что животные обладают сознанием. Так или иначе, результатом стал скептицизм по умолчанию относительно сознания не-людей, совпавший с резким ростом масштабов взаимодействия человека с другими животными.
Тем не менее, некоторые исследователи утверждают, что этот скептицизм по умолчанию в науке не оправдан, и предлагают альтернативы. Одна из них — пересмотреть наши исходные допущения. Например, Кристин Эндрюс считает, что мы должны исходить из того, что все животные обладают сознанием, а Ирина Михалевич поддерживает выбор наиболее обоснованных гипотез в качестве исходных. Другая альтернатива — полностью отказаться от исходных допущений. Так, Майк Дэйси утверждает, что ни одну гипотезу не следует рассматривать как исходную — такой подход он называет «эвиденциализмом».
Примечание. По определению Дэйси, эвиденциализм — это взгляд, что «ни в коем случае мы не должны одобрять объяснение поведения животных в терминах когнитивного процесса X на основе имеющихся свидетельств, если эти свидетельства не дают нам оснований предпочесть его альтернативному объяснению в терминах другого когнитивного процесса Y — будь он ниже или выше на «психической шкале»»
***
А Эллиотт Собер полагает, что и ошибки первого, и ошибки второго рода плохи, и что мы можем минимизировать их, избегая исходных предпочтений. Другие предлагают заменить эту методологию байесовским, лайклихудистским (многие термины объясняются в глоссарии в конце статьи) или иными подходами.
Примечание. Уильям Баусман, Марта Халина и Майк Дейси утверждают, что в таких областях, как сравнительная психология, исходные гипотезы технически не являются «нулевыми». То есть они не являются статистическими утверждениями, которые можно фальсифицировать на основе данных и математики. Скорее, они обычно являются содержательными объяснениями — как правило, простейшими доступными объяснениями. Таким образом, исследования в сравнительной психологии технически не используют методологию тестирования нулевых гипотез. Пока я оставляю это в стороне, но следую за Дэйси в использовании термина «исходная гипотеза», а не «нулевая гипотеза» для содержательных объяснений, тогда как Bausman и Halina используют термин «псевдонулевая».
***
Некоторые исследователи высказывали сходные аргументы и в этике. Например, Джонатан Бёрч утверждает, что когда у животных есть реальная вероятность обладать сознанием, мы должны минимизировать риски для их спокойной жизни. Джефф Себо развивает эту позицию с помощью двух концептуальных рамок: принципа предосторожности, поддерживающего приписывание сознания, и принципа ожидаемой значимости, умножающего вероятность наличия сознания на поставленное под угрозу потенциальное благополучие.
Примечание. Ниже будет приведено подробное обсуждение принципа предосторожности и принципа ожидаемой значимости.
А Саймон Кнутссон и Кристиан Мунте обосновывают эту осторожность этикой добродетели, утверждая, что моральные агенты должны проявлять заботу при взаимодействии с потенциально чувствительными существами. В совокупности эти подходы предполагают, что если наука, возможно, и нуждается в пересмотре своих скептических установок для углубления понимания, то этика, вероятно, нуждается в аналогичных пересмотрах для предотвращения катастроф.
***
Оценивать эти предложения трудно по меньшей мере по двум причинам. Во-первых, вопрос о распределении встаёт применительно к огромному спектру существ. Анализ традиционно был сосредоточен на нечеловеческих животных. Однако сейчас некоторые исследователи применяют сходный анализ к растениям, грибам, бактериям, чат-ботам, роботам, эмулированным разумам (имеется в виду ИИ — прим.пер.), мозговым органоидам и другим нечеловеческим сущностям. Во-вторых, в повседневной жизни мы часто совмещаем научный и этический дискурс с практикой, но разные допущения могут иметь смысл для разных целей и в разных контекстах — как внутри этих областей, так и между ними. В науке мы можем разграничить допущения, отражающие текущие свидетельства, и допущения, способствующие научному прогрессу в конкретных контекстах. А в этике мы можем разграничить допущения, которые в идеале уравновешивают риски, и допущения, которые способствуют этическому прогрессу в конкретных контекстах.
В этой статье обосновывается необходимость разграничивать исходные допущения о нечеловеческом сознании в научной теории, научной практике, этической теории и этической практике, и намечается ландшафт этих областей. Раздел 2 рассматривает различные виды нечеловеческих умов, для которых может вставать этот вопрос. В разделе 3 рассматриваются исходные допущения в науке с указанием на то, что научная теория часто может опираться на более исключающие допущения, чем научная практика. В разделе 4 рассматриваются исходные допущения в этике с указанием на то, что этическая теория часто может опираться на более включающие допущения, чем этическая практика. Попутно я доказываю, что чёткое разграничение этих анализов значительно облегчает нашу задачу, поскольку позволяет выбирать взаимодополняющие допущения для взаимодополняющих целей и в результате улучшать как науку, так и этику (Рисунок 1).
Рисунок 1. Типы гипотез в науке и этике
Мы можем и должны делать различные допущения о распределении сознания для различных целей, в том числе в научной и этической теории и практике.
2. Что́ нам следует допускать относительно распределения сознания?
Для моих целей здесь мы можем определить сознание как способность к субъективному переживанию. Если быть вами — это на что-то похоже, значит, вы обладаете сознанием.
Примечание. Способность к субъективному переживанию иногда называют «феноменальным сознанием»
Этот субъективный аспект ума включает как сенсорные, так и аффективные состояния. Сенсорные состояния могут включать переживание зрения, слуха, обоняния или осязания. Аффективные состояния могут включать положительные и отрицательные переживания, такие как удовольствие, боль, счастье и страдание. Хотя точные механизмы, лежащие в основе сознания, остаются предметом непрекращающихся научных и философских исследований, базовая идея интуитивно понятна: обладающие сознанием существа — это субъекты опыта. В этом смысле сознание есть то, что порождает внутреннюю психическую жизнь, а не просто реактивность или обработку информации.
Определение распределения сознания в мире важно как с научной, так и с этической точек зрения. С научной — знание того, какие существа обладают сознанием, помогает нам лучше понять, что́ такое сознание и как оно возникает. Это включает понимание природы и происхождения нашего собственного сознания. С этической — знание того, какие существа обладают сознанием, помогает нам определить, какие существа способны испытывать удовольствие, боль, счастье, страдание и другие морально значимые состояния благополучия. Это, в свою очередь, наполняет содержанием наши моральные обязанности.
Примечание. Идея о том, что сознание или чувствительность определяет моральный статус индивида, называется сентиентизмом и пользуется значительной поддержкой.
Если существо способно страдать, то ему можно причинить вред, и у нас есть основания учитывать его интересы, принимая решения, которые его затрагивают. Короче говоря, изучение сознания у других помогает нам не только улучшить наше понимание их, но и улучшить наше взаимодействие с ними.
Однако определить распределение сознания в мире трудно. Одна из проблем — это трудная проблема сознания: проблема объяснения того, как и почему какая-либо система вообще может обладать сознанием, включая наш собственный мозг. Даже если мы понимаем, как система обрабатывает информацию или производит поведение, это не равносильно пониманию того, как и почему быть этой системой — на что-то похоже.
***
Другая проблема — проблема других умов: проблема знания того, на что (и на что вообще) похоже быть другим существом, когда единственный ум, к которому каждый из нас имеет прямой доступ, — это наш собственный. Мы можем непосредственно наблюдать поведение и анатомию, но не мысли и чувства. Эти эпистемологические барьеры ограничивают нашу способность делать твёрдые выводы о том, какие существа обладают сознанием.
На протяжении большей части современной истории многие учёные и философы считали изучение нечеловеческого сознания выходящим за пределы эмпирического исследования. Поскольку сознание не является непосредственно наблюдаемым, утверждали они, его нельзя изучать так же, как другие явления. В результате они часто отвергали вопросы о нечеловеческом сознании как ненаучные. Многие также полагали, что сознание зависит от сложных способностей, таких как язык, разум и самосознание, — способностей, которые считались исключительно или преимущественно человеческими. Согласно этому взгляду, большинство, если не все не-люди лишены способности к субъективному осознанию, а наука о сознании не способна оспорить эту классификацию.
***
Однако в последнее время появляющиеся исследовательские программы начали добиваться прогресса в этой теме, разрабатывая новые способы исследования вопроса о распределении. Один из подходов — метод маркеров, который позволяет учёным делать обоснованные вероятностные оценки относительно нечеловеческого сознания на основе наблюдаемых признаков.
Примечание. Джонатан Бёрч и другие проводят различие между теоретико-нагруженным подходом, теоретико-нейтральным подходом и теоретико-облегчённым подходом. Теоретико-нагруженный подход предполагает конкретные теории сознания для изучения их следствий, тогда как теоретико-нейтральный подход не предполагает ничего. Теоретико-облегчённый подход достигает баланса, делая минимальные допущения, совместимые с множеством ведущих теорий сознания, и исследуя их следствия.
Этот метод включает различение сознательной и несознательной обработки у людей, выявление поведенческих и анатомических маркеров, надёжно связанных с сознательной обработкой у людей, и затем поиск сходных маркеров у нечеловеческих животных. Хотя наличие таких маркеров, возможно, и не служит доказательством сознания, оно всё же может выступать свидетельством, повышая вероятность сознания в условиях неопределённости.
Это исследование способствовало прогрессу как в науке, так и в политике. Как показывает Нью-Йоркская декларация о сознании животных, в настоящее время существует широкое согласие, что многие животные имеют реальную вероятность обладать сознанием и что мы должны учитывать риски для их благополучия. Однако предстоит ещё долгий путь. Имеющиеся данные ограничены и неоднозначны, сосредоточены на относительно небольшом числе видов и во многих случаях поддерживают наличие сознания в одних отношениях, но не в других. Более того, метод маркеров, возможно, имеет внутренние ограничения, включая перекос в пользу подтверждающих свидетельств и против опровергающих, а также перекос в пользу человекоподобного сознания и против других потенциальных форм сознания.
***
Продолжая добиваться прогресса в этой работе, мы сталкиваемся с важным вопросом: что́, если что-либо вообще, нам следует допускать относительно распределения сознания, стремясь узнать больше? Этот вопрос встаёт не только применительно к животным, но и к целому ряду других существ, включая растения, грибы, бактерии, вирусы, чат-ботов и роботов. И во всех случаях этот выбор может влиять как на то, как мы изучаем сознание, так и на то, как мы взаимодействуем с не-людьми в условиях неопределённости. Чтобы проиллюстрировать сложность задачи, мы можем рассмотреть здесь пять допущений, которые можно было бы принять взамен традиционного допущения об отсутствии сознания у не-людей, пока достаточные свидетельства не докажут обратное.
Впрочем, это не единственные пять вариантов, и требуется дополнительная работа, чтобы определить, какие варианты наиболее релевантны имеющимся свидетельствам и теории.
Вариант 1: Все животные обладают сознанием.
Здесь мы принимаем «животное» как релевантную категорию для исходного допущения и предполагаем, что все животные обладают сознанием, пока достаточные свидетельства не покажут обратное. С биологической точки зрения животных часто определяют как эукариотические многоклеточные организмы, которые потребляют органическое вещество и обычно развивают способность к сенсорному восприятию и активному движению на какой-либо стадии развития. Эта категория включает позвоночные группы, такие как млекопитающие, птицы, рептилии, амфибии и рыбы, а также беспозвоночные группы, такие как моллюски, ракообразные и насекомые. Однако она исключает живых существ, таких как растения, грибы, бактерии и вирусы, а также искусственные или неживые сущности, такие как роботы, чат-боты, протоны и электроны.
Хотя этот вариант относительно прост, на периферии могут возникать неопределённости. Например, губки по определению являются животными, однако они в основном неподвижны и лишены нейронов. Напротив, растения и грибы по определению не являются животными, однако они демонстрируют удивительно сложные сенсорные и поведенческие способности. Некоторые организмы также размывают категории: например, некоторые колониальные протисты могут координировать поведение на уровне колонии способами, напоминающими простых многоклеточных животных. Эти примеры говорят о том, что различие между животными и другими живыми существами не всегда может быть ясным или релевантным для вопроса о распределении, особенно на периферии.
Вариант 2: Все живые существа обладают сознанием.
Здесь мы принимаем «живое существо» как релевантную категорию для исходного допущения и предполагаем, что все живые существа обладают сознанием, пока достаточные свидетельства не покажут обратное. С биологической точки зрения живых существ часто определяют на основе таких функций, как размножение, метаболизм и гомеостаз, а также таких структур, как клетки, содержащие белки, ДНК, РНК и другие биомолекулы. В стандартных интерпретациях эта категория включает животных, растения, грибы и бактерии, которые явно обладают функциями и структурами, характерными для жизни. Однако она исключает роботов (пока), чат-ботов (пока), столы, стулья, протоны, электроны и ряд других сущностей, лишённых этих функций и структур.
Неопределённости на периферии могут возникать и для этого варианта. Например, вирусы могут размножаться, но только внутри хозяев, и они лишены метаболических процессов. Прионы могут распространяться, индуцируя неправильное сворачивание других белков, но они лишены генетического материала и метаболических процессов.
Исследователи в области синтетической биологии изучают создание «протоклеток», способных к метаболизму и самовоспроизведению. А исследователи в области робототехники и ИИ изучают создание сущностей на кремниевой основе, способных к автономии и самоорганизации. Эти примеры говорят о том, что древо жизни подобно царству животных: различие между живыми существами и другими сущностями не всегда может быть ясным или релевантным для вопроса о распределении, особенно на периферии.
Вариант 3: Все существа с нервной системой обладают сознанием.
Здесь мы принимаем «существо с нервной системой» как релевантную категорию для исходного допущения и предполагаем, что все существа с нервной системой обладают сознанием, пока достаточные свидетельства не покажут обратное. Нервные системы часто определяют как сети специализированных клеток, координирующих перцептивные входы и поведенческие выходы, обычно посредством передачи электрических и химических сигналов. В стандартных интерпретациях эта категория включает всех позвоночных и многих беспозвоночных, в том числе относительно простые организмы, такие как нематоды. Однако она исключает некоторых других беспозвоночных и многие другие живые существа, чьи сенсорные, когнитивные и поведенческие системы — если они есть — основаны на иных типах структур.
Для этого варианта даже больше, чем для предыдущих, многое зависит от того, как мы определим наши термины. Если мы установим высокую планку, требуя такие структуры, как нейроны и мозг, то считаться будут только позвоночные и многие беспозвоночные. Если же мы установим планку ниже, признавая, что многие химические или электрические системы могут координировать восприятие и поведение без нейронов и мозга, то могли бы считаться и многие растения и грибы. Мы также должны спросить, следует ли учитывать только нервные системы на углеродной основе или также возможные аналоги на кремниевой основе. Эти пограничные случаи иллюстрируют, что концепт «нервная система» не всегда просто применить. Однако в той мере, в какой сознание зависит от координации восприятия и поведения, эта категория может быть более релевантным прокси, чем традиционные категории вроде «животное» или «живое существо».
Вариант 4: Все существа со сложными когнитивными способностями обладают сознанием.
Здесь мы принимаем «существо со сложными когнитивными способностями» как релевантную категорию для исходного допущения и предполагаем, что все существа со сложными когнитивными способностями обладают сознанием, пока достаточные свидетельства не покажут обратное. Исследователи обычно связывают сложные когнитивные способности с набором ментальных способностей, включающих восприятие, внимание, научение, память, метапознание, гибкое принятие решений и интеграцию информации. В зависимости от того, как эти способности определяются и измеряются, этот стандарт правдоподобно включает многих животных и текущие или ближайшие системы ИИ. Однако он правдоподобно исключает также многих животных и текущие или ближайшие системы ИИ, а также растения, грибы, бактерии, вирусы, протоны, электроны и другие сущности.
Как и в случае с предыдущим стандартом, однако, многое зависит от того, как мы определим наши термины. Если мы установим высокую планку — например, требуя мышления высшего порядка, языка и разума, — то считаться будут только люди и, возможно, будущие системы ИИ. Если же мы установим планку ниже — требуя лишь способности собирать, обрабатывать и применять информацию, — то могли бы считаться многие животные, растения, грибы и другие существа. Таким образом, подобно варианту с «нервной системой», вариант со «сложными когнитивными способностями» допускает более широкий спектр интерпретаций, чем варианты с «животным» и «жизнью», оставляя больше места для предвзятости. Однако в той мере, в какой сознание зависит от определённых видов вычислений и обработки информации, эта категория также может быть более релевантным прокси, чем традиционные категории вроде «животное» или «живое существо».
Вариант 5: Все существа обладают сознанием.
Этот вариант принимает максимально широкую категорию — само «существо» — как релевантную категорию для исходного допущения, предполагая, что все существующие сущности обладают сознанием, пока достаточные свидетельства не покажут обратное. Эта идея наиболее тесно связана с панпсихизмом — воззрением, что сознание есть фундаментальное свойство материи, подобно заряду, массе или спину. Однако, подобно тому как объект может быть сделан из частиц, обладающих спином, но сам при этом не спини́ть, возможно, объект может быть сделан из частиц, которые чувствуют, но сам при этом не чувствовать. Таким образом, нам нужно соединить этот вариант с теорией комбинации — объяснением того, как сложное сознание возникает из простого сознания, — чтобы определить, какие сложные системы обладают субъективными переживаниями.
Как и в случае с другими вариантами, многое здесь зависит от деталей. При более ограничительной интерпретации можно утверждать, что, хотя сознание является базовым свойством материи, оно проявляется лишь в избранных композитах, таких как живые существа с нервной системой или сложными когнитивными способностями. При более разрешительной интерпретации можно утверждать, что сознание существует во всей материи, во всех обыденных объектах и даже в произвольных совокупностях объектов, таких как комбинация моего мозга и вашего. Подобно предыдущим двум вариантам, вариант «все существа» допускает чрезвычайно широкий спектр интерпретаций и применений. Тем не менее для тех, кто рассматривает сознание как фундаментальный аспект реальности, этот вариант может казаться наиболее принципиальным и инклюзивным, предлагая прямой способ избежать опасностей систематической недооценки.
***
Можно вообразить и многие другие варианты, включая варианты комбинирования и уточнения уже рассмотренных. Например, мы могли бы принять ограничительное допущение, такое как воззрение, что сознанием обладают все и только животные с нервной системой и сложными когнитивными способностями (при ограничительных интерпретациях). Или же мы могли бы принять разрешительное допущение, такое как воззрение, что сознанием обладают все живые существа, существа с нервной системой и существа со сложными когнитивными способностями (при разрешительных интерпретациях). Эти возможности подчёркивают, что задача состоит не просто в том, предполагать ли наличие сознания у определённых существ до получения дальнейших свидетельств, но и в том, какие категории выделять как релевантные и распространяются ли наши основания для приписывания — или неприписывания — сознания по умолчанию в одних случаях на другие.
3. Наука
Как мы можем определить, какое исходное допущение о распределении сознания является наилучшим с научной точки зрения? Мы можем поставить этот вопрос как в теории, так и на практике. В теории наилучшим допущением является то, которое наилучшим образом отражает имеющиеся свидетельства и аргументы (то, что я буду называть нашей фактической гипотезой). На практике наилучшим допущением является то, которое наилучшим образом стимулирует научный прогресс для конкретных субъектов принятия решений в конкретных контекстах (то, что я буду называть нашей рабочей гипотезой). Если допущение, представляющееся наилучшим в теории, вряд ли вызовет новые вопросы, исследования или открытия, это может быть основанием отложить его в практических целях. Однако это также может нести риски, поскольку принятие и продвижение рабочей гипотезы, отличающейся от нашей фактической гипотезы, может сбивать людей с толку относительно текущего состояния области.
Мы можем начать с рассмотрения теоретического уровня науки. Здесь один из вариантов — подход «всё или ничего». Мы начинаем с допущения, наилучшим образом поддерживаемого текущими свидетельствами и теорией, — например, «все организмы с нервной системой и сложными когнитивными способностями обладают сознанием». Затем мы разрабатываем эксперименты для проверки этой гипотезы и обновляем её при наличии достаточных свидетельств — например, признав, что некоторые организмы без нервной системы или сложных когнитивных способностей обладают сознанием. Требуя множества линий сходящихся свидетельств для обновления, эта стратегия защищает от ложноположительных результатов и преждевременных выводов. В результате она также делает науку более консервативной, устанавливая более высокую планку для признания новых сущностей сознательными и побуждая исследователей сосредоточиваться на более ограниченном наборе знакомых возможностей.
***
Другой вариант — вероятностный подход. Мы начинаем с присвоения априорных вероятностей различным гипотезам — например, «организмы с нервной системой и сложными когнитивными способностями имеют 75-процентную вероятность обладать сознанием». Затем мы обновляем эти вероятности по мере поступления новых свидетельств — например, присваивая 80-процентную вероятность сознания определённому организму после обнаружения большей, чем ожидалось, сенсорной или когнитивной интеграции. Моделируя допущения как степени уверенности, которые можно постепенно обновлять, эта стратегия относительно сбалансированно защищает как от ложноположительных, так и от ложноотрицательных результатов. В результате она также делает науку более исследовательской, устанавливая более низкую планку для признания новых сущностей правдоподобно сознательными и побуждая исследователей рассматривать более широкий спектр новых возможностей.
Как отмечалось выше, хотя взгляды на вопрос о распределении значительно различались, многие исследователи в двадцатом веке скептически относились к тому, что не-люди обладают способностью к субъективному осознанию. И в той мере, в какой исследователи вообще изучали возможность нечеловеческого сознания, они склонны были уделять первоочередное внимание нечеловеческим животным, чьё поведение, когнитивные способности и эволюционная история наиболее близки к нашим. Следовательно, ранние исследования нечеловеческого сознания имели тенденцию фокусироваться на других приматах, а также на других млекопитающих и птицах. Они также отдавали предпочтение человекоцентричным видам свидетельств, таким как лингвистический самоотчёт или активность префронтальной коры. В результате многие исследователи по умолчанию либо отвергали сознание у подавляющего большинства не-людей, либо, по крайней мере, исходили из априорной вероятности, близкой к нулю.
***
Однако традиционное скептическое допущение о нечеловеческом сознании может быть слишком ограничительным с учётом текущего состояния свидетельств и теории. Когда мы ищем свидетельства непредвзято и неантропоцентрическими методами, мы, как правило, обнаруживаем по меньшей мере некоторые индикаторы субъективного осознания у широкого круга биологических и искусственных систем. Кроме того, множественные конкурирующие теории сознания всё ещё пользуются значительной поддержкой, включая теории, приписывающие сознание любой системе, способной обрабатывать информацию или представлять объекты в окружающей среде.
Наконец, как трудная проблема сознания, так и проблема других умов ограничивают нашу способность быть высоко уверенными в ту или иную сторону на данном этапе. В совокупности эти соображения могут поддерживать более сбалансированную отправную точку.
Примечание. Существует потенциальная неоднозначность в том, что означает «исходное допущение» на теоретическом уровне. Одна интерпретация — методологическая, касающаяся того, какое общее правило нам следует принять (например, утверждать ли сознание, отрицать сознание или назначать сбалансированную априорную вероятность до сбора свидетельств). Другая интерпретация — содержательная, касающаяся того, какую степень уверенности нам следует назначить конкретному случаю до сбора специфических для случая свидетельств, учитывая текущую теорию и свидетельства (например, о родственных случаях).
Обе интерпретации важны. При методологическом прочтении неопределённость относительно природы сознания — усиливаемая трудной проблемой сознания и проблемой других умов — сама по себе может оправдывать нескептическую априорную вероятность, а не близкую к нулю. При содержательном прочтении наши фоновые знания — о теориях сознания, свидетельствах из родственных случаев, исторической тенденции к недоатрибуции и других вещах — также могут поддерживать нескептические априорные вероятности во многих случаях. Когда я говорю, что «традиционное скептическое допущение» может быть слишком ограничительным, я имею в виду, что оно может быть слишком ограничительным в любой из этих интерпретаций или в обеих: как методологическое правило в условиях глубокой неопределённости относительно сознания и как содержательная исходная степень уверенности для новых случаев при текущем фоновом знании. Тем не менее, мой основной фокус здесь — на обоих этих моментах вместе: учитывая неопределённость относительно сознания и текущее фоновое знание, сбалансированные отправные точки для многих новых случаев оправданы.
***
Для подхода «всё или ничего» принятие более сбалансированной отправной точки означало бы принятие более инклюзивных исходных допущений. Например, вместо приписывания сознания лишь тем сущностям, в отношении которых свидетельства уже ясны и сильны, мы могли бы также приписывать сознание сущностям, которые представляются релевантно сходными с подтверждёнными случаями. Этот подход по-прежнему требует сильных свидетельств для приписывания сознания, но он также рассматривает кажущееся релевантное сходство как основание для предварительного приписывания. В результате он лучше уравновешивает избегание ложноположительных и ложноотрицательных результатов, допуская возможность приписывания по умолчанию даже тогда, когда сущности ещё не были тщательно изучены. Он также отражает свидетельства и теорию, предполагающие, что сознание может быть распространено гораздо шире, чем считалось ранее.
Аналогично, для вероятностного подхода это означало бы присвоение более сбалансированных априорных вероятностей. Вместо того чтобы рассматривать большинство сущностей как почти наверняка лишённых сознания при отсутствии сильных свидетельств, исследователи могут принимать априорные вероятности, лучше отражающие неопределённость и разнообразие подтверждённых случаев. Одна возможность — промежуточная априорная вероятность, присваивающая, скажем, 25, 50 или 75 процентов вероятности сознания сущностям, которые кажутся релевантно сходными с подтверждёнными случаями, и затем обновляющаяся с появлением новых свидетельств и теории. Другая стратегия — неточная априорная вероятность, присваивающая, скажем, диапазон степеней уверенности 10–90 процентов в таких случаях и затем сужающая или обновляющая этот диапазон с появлением новых свидетельств и теории. Хотя эти стратегии различаются, обе они подразумевают, что мы не должны по умолчанию придерживаться экстремального взгляда, такого как априорная вероятность, близкая к нулю или к 100 процентам, в подобных случаях.
Примечание. В предстоящей работе Дерек Шиллер и коллеги исследуют ряд априорных вероятностей. Они обнаруживают, что в сочетании со свидетельствами априорные вероятности выше 10%, по-видимому, дают наиболее правдоподобные апостериорные вероятности для знакомых систем, таких как люди и куры (личная переписка).
***
Конечно, есть осложнения. Как отмечалось выше, метод маркеров, вероятно, антропоцентричен. Мы повышаем нашу уверенность в том, что не-люди обладают сознанием, когда находим признаки, связанные с сознанием у людей, хотя сознание могло бы принимать и иные формы. Этот метод также, вероятно, асимметричен.
Наличие маркера может заставить нас повысить уверенность сильнее, чем отсутствие маркера — понизить, в зависимости от деталей. У нас могли бы быть основания скорректировать наши отправные точки в свете этих или других осложнений. Однако было бы ошибкой корректировать отправные точки, округляя их до самого верха или до самого низа; априорная вероятность, близкая к нулю или к 100 процентам, всё ещё представляется слишком экстремальной для многих из обсуждавшихся выше существ.
***
Итак, когда вопрос состоит в том, что́ допускать на теоретическом уровне науки, какое место это оставляет для вариантов вроде «все животные обладают сознанием», «все живые существа обладают сознанием» и так далее? Хотя полный ответ выходит за рамки данной статьи, на высоком уровне я могу сказать следующее. Во-первых, при нынешних уровнях разногласий и неопределённости относительно вопроса о распределении полезно применять вероятностный подход, а не подход «всё или ничего», и начинать со сбалансированной априорной вероятности для большинства рассмотренных здесь категорий. Учитывая, что (к лучшему или к худшему) мы рассматриваем признаки, связанные с сознанием у людей, как маркеры сознания у не-людей, возможно, также имеет смысл по умолчанию присваивать более высокую априорную вероятность существам, которые представляются релевантно сходными с людьми.
Примечание. В более общем плане, возможно, имеет смысл назначать более высокую вероятность существам с физическими особенностями, напоминающими релевантные физические особенности людей. Кристиан Р. де Верд приводит сходный аргумент в пользу поиска теоретико-информированных маркеров сознания.
Теперь мы можем рассмотреть этот вопрос на практическом уровне науки. Это значит спросить, какое допущение наиболее эффективно приведёт к научному прогрессу в понимании природы и распределения сознания. Например, Кристин Эндрюс утверждает, что переворот нулевой гипотезы в пользу «все животные обладают сознанием» привёл бы к более быстрому прогрессу благодаря лучшим вопросам, методам и открытиям. Согласно этому взгляду, если мы меньше фокусируемся на том, какие животные обладают сознанием, и больше на том, как животные обладают сознанием, мы сможем собрать данные, необходимые для надёжной теории сознания.
***
Затем мы сможем использовать эту теорию для переоценки распределения сознания у животных, ИИ и других классов не-людей. Вывод состоит в том, что инклюзивное исходное допущение является практической стратегией преодоления узких мест в науке о сознании.
Конечно, осложнение в том, что при выборе исходного допущения относительно распределения сознания мы должны учитывать не только такую порождающую силу. Хотя учёные расходятся во мнениях о том, как лучше всего выбирать исходное допущение, стандартная практика включает рассмотрение множества факторов: от согласованности со свидетельствами и теорией до простоты, проверяемости, практической реализуемости и порождающей способности.
Примечание. Многие исследователи считают, что методология тестирования нулевых гипотез сама была создана как практический инструмент для продвижения науки, что делает методологию одновременно теоретической и практической. Согласно Питеру Годфри-Смиту, исходная «процедура принятия/отклонения для экспериментальных гипотез» «задумывалась как поведенческая стратегия, где «принятие» гипотезы означало действовать так, как если бы гипотеза была истинной».
И хотя эти факторы могут указывать в одном направлении в одних случаях (особенно для, скажем, животных с нервной системой и сложными когнитивными способностями), они могут указывать в разных направлениях в других случаях (особенно для, скажем, животных без нервной системы или сложных когнитивных способностей, а также для растений, грибов, бактерий, вирусов, роботов, чат-ботов и других подобных сущностей). Если так, может потребоваться тщательное уравновешивание различных факторов.
***
Рассмотрим, как теоретические и практические факторы могут расходиться в этой области, особенно для подобного рода пограничных случаев внутри и за пределами царства животных. С одной стороны, если цель состоит в том, чтобы выбрать допущение, наилучшим образом отражающее существующие свидетельства и теорию, возможно, лучше всего либо отрицать наличие сознания у губок, растений, грибов, бактерий, вирусов, роботов и чат-ботов, либо, по крайней мере, присваивать более низкую вероятность этим возможностям. С другой стороны, если цель состоит в том, чтобы выбрать допущение, вдохновляющее на новые вопросы, методы и открытия, возможно, лучше склоняться в противоположную сторону в этих случаях. Если так, возможно, полезно чётко разграничивать «фактическую гипотезу», которую мы ожидаем считать верной, и «рабочую гипотезу», которую мы ожидаем считать порождающей, и явно взвешивать эти теоретические и практические факторы при выборе исходного допущения.
Ещё более усложняет дело то, что практические факторы, влияющие на выбор исходного допущения, также могут расходиться, особенно (опять же) для пограничных случаев внутри и за пределами царства животных. Например, в той мере, в какой мы ценим простоту, проверяемость и практическую реализуемость, возможно, лучше всего отрицать наличие сознания у губок, растений, грибов, бактерий, вирусов, роботов и чат-ботов при оценке их способностей. Однако в той мере, в какой мы ценим стимулирование новых вопросов, методов и открытий, возможно, лучше склоняться в противоположную сторону — в зависимости, конечно, от конкретного исследовательского вопроса. Здесь также может быть полезно чётко разграничивать «упрощающее допущение», поддерживающее сбор данных, и «исследовательское допущение», поддерживающее инновационное мышление, и явно взвешивать эти факторы при выборе исходного допущения.
Примечание. Смежный способ, которым допущение может иметь практическую ценность, — играть роль в аргументе. Например, Джефф Себо утверждает, что, даже делая консервативные допущения о природе сознания и будущем ИИ, мы всё равно должны признавать непренебрежимую вероятность сознания ближайшего ИИ. В этом случае он делает эти допущения не потому, что ожидает их верности, и не потому, что ожидает, что они стимулируют инновации, а потому, что хочет показать, что инклюзивные выводы могут следовать даже из исключающих посылок.
***
Дополнительную сложность придаёт то, что многие другие факторы также влияют на темп научного прогресса. Чтобы разработать надёжную теорию сознания, которую можно использовать для оценки вопроса о распределении, нам, возможно, нужно учитывать не только то, какие допущения и методологии просты, проверяемы, реализуемы и порождающи, но и то, какие из них, вероятно, привлекут поддержку для данной области. Например, исследовательская программа, принимающая скептическую позицию по умолчанию в отношении сознания ИИ, может понравиться государственным спонсорам, предпочитающим общепринятое мнение, но не частным спонсорам, предпочитающим инновационное мышление. Подобные культурные факторы редко делаются явными при выборе исходного допущения. Однако они явно влияют на научную практику и, по-видимому, заслуживают учёта — если не как часть выбора исходного допущения, то, по крайней мере, наряду с ним.
Я предположил, что мы можем до некоторой степени снять эти напряжения, чётко разграничивая разные допущения, которые мы делаем для разных целей. Однако этого может не всегда быть достаточно, чтобы избежать путаницы, поскольку нюансы могут легко теряться в повседневной жизни, а когнитивная привязка может легко делать заметные идеи более правдоподобными, даже когда нюансы сохранены. Так, например, даже если я ясно заявляю, что «все живые существа обладают сознанием» — это рабочая гипотеза, я всё равно могу обнаружить, что моё исследование этой идеи делает людей более доверчивыми и к сознанию растений, грибов или бактерий как к фактической гипотезе. Эта возможность поднимает трудные вопросы о том, как разрешать напряжения между различными факторами при выборе исходного допущения, когда все попытки их снять потерпели неудачу.
***
Следует ли из каких-либо этих осложнений, что, вопреки Эндрюс, мы не должны переворачивать нулевую гипотезу в пользу «все животные обладают сознанием»? Отнюдь. Вместо этого из них просто следует, что выбор нулевой гипотезы — и, в более общем плане, выбор исходного допущения в науке — сложен. Он требует оценки широкого спектра возможных допущений с широкого спектра теоретических и практических позиций, с тщательным разграничением различных видов допущений, где это возможно, и взвешиванием различных видов факторов вместе, где это необходимо. В любом случае, я согласен с Эндрюс относительно порождающей силы приписывания сознания большинству, если не всем животным. И когда мы чётко отделяем порождающую силу от других факторов, мы можем обнаружить, что сходный анализ распространяется — в большей или меньшей степени — и на многие сущности за пределами царства животных.
Итак, когда вопрос стоит о том, что́ допускать на практическом уровне науки, какое место это оставляет для вариантов вроде «все животные обладают сознанием», «все живые существа обладают сознанием» и так далее? Многое зависит от контекста. Для одних целей — таких как расширение устоявшихся исследовательских программ или привлечение традиционных спонсоров — исключающие допущения часто могут быть наиболее эффективны. Для других — таких как запуск новых исследовательских программ или привлечение альтернативных спонсоров — включающие допущения часто могут быть наиболее эффективны. Тем не менее я согласен с Эндрюс, что спрашивать, как не-люди обладают сознанием, предполагая, что они им обладают, — это эффективный способ добиться прогресса во многих случаях. Поэтому я ожидаю, что наши рабочие гипотезы должны быть динамичными и часто инклюзивными, поскольку мы должны варьировать их в разных контекстах и часто использовать для исследования новых идей.
Подведём итог: я предположил, что нам следует принимать разные допущения о распределении сознания для разных целей в науке. На теоретическом уровне наши исходные допущения должны отражать то, что мы ожидаем считать истинным, учитывая текущие свидетельства и аргументы. На практическом уровне они должны отражать то, что мы считаем полезным для продвижения науки. Я также предположил, что наши теоретические допущения о вопросе распределения должны быть, как правило, более статичными и исключающими, тогда как наши практические допущения — более динамичными и исследовательскими. Впрочем, если мы принимаем вероятностный подход, а не подход «всё или ничего», то эти подходы могут различаться по степени, а не по существу, поскольку промежуточная априорная вероятность может быть уместна для большинства рассмотренных здесь категорий.
4. Этика
Как же тогда мы можем определить, какое исходное допущение о распределении сознания является наилучшим с этической точки зрения? Здесь мы также можем провести различие между теорией и практикой. В теории наилучшим допущением является то, которое наилучшим образом уравновешивает риски ложноположительных и ложноотрицательных результатов относительно сознания (то, что я буду называть нашей идеальной гипотезой). На практике, напротив, наилучшим допущением является то, которое наилучшим образом стимулирует моральный прогресс в конкретных контекстах, с учётом того, насколько вероятно, что люди будут действовать в соответствии с ним (то, что я буду называть нашей неидеальной гипотезой). Если допущение, представляющееся наилучшим в теории, вряд ли получит поддержку на практике, это может быть основанием временно отложить его. Однако это также может нести риски, поскольку отсрочка признания потенциально сознательных существ может означать продолжение предотвратимого вреда.
Мы можем начать с рассмотрения теоретического уровня этики. Как и прежде, можно разграничить подход «всё или ничего» и вероятностный подход. Подход «всё или ничего», который Себо описывает как подход, основанный на предосторожности, утверждает, что мы должны стремиться избегать наихудших сценариев. В данном контексте это означает сравнение величины вреда, связанного с ложноположительными результатами (насколько плохо было бы, если бы мы ошибочно приняли не обладающие сознанием существа за обладающие сознанием), с величиной вреда, связанного с ложноотрицательными результатами (насколько плохо было бы, если бы мы ошибочно приняли обладающие сознанием существа за не обладающие сознанием). Затем мы принимаем допущение, позволяющее избежать большего вреда.
***
Например, если бы ошибочное обращение с муравьями как с не обладающими сознанием было более разрушительным, чем ошибочное обращение с ними как с обладающими сознанием, то мы обращаемся с ними как с обладающими сознанием.
Напротив, вероятностный подход, который Себо описывает как подход ожидаемой значимости, утверждает, что мы должны максимизировать ожидаемую ценность. В данном контексте это означает сравнение вероятности и величины вреда, связанного с ложноположительными результатами (насколько вероятна сверхатрибуция сознания и насколько вредна она была бы), с вероятностью и величиной вреда, связанного с ложноотрицательными результатами (насколько вероятна недоатрибуция сознания и насколько вредна она была бы). Затем мы распределяем моральную заботу к конкретным существам соответствующим образом. Например, если муравьи имеют 10-процентную вероятность обладать сознанием и, будучи сознательными, могут страдать на 10% от человеческого уровня, то при оценке компромиссов мы должны рассматривать худшую кажущуюся боль муравья как примерно на 1% столь же плохую, как худшая кажущаяся боль человека.
Хотя этические практики различаются, доминирующим подходом на Западе было по умолчанию рассматривать не-людей как лишённых сознания. В первой половине двадцатого века учёные неохотно затрагивали эту тему способами, которые могли бы бросить вызов такой позиции, и политики в целом следовали их примеру. Однако ко второй половине века научные взгляды начали меняться: исследователи сначала допустили, что нечеловеческие приматы, вероятно, обладают сознанием, затем — другие млекопитающие, затем — птицы и некоторые другие животные. Политики затем иногда следовали этому примеру, обычно рассматривая приписывание сознания как необходимое, но не достаточное условие для распространения мер защиты благополучия.
***
Однако с точки зрения этической теории этот скептицизм по умолчанию проблематичен как для подхода, основанного на предосторожности, так и для подхода ожидаемой значимости. Согласно подходу предосторожности, поскольку наша цель — избежать наихудших сценариев, нам часто следует по умолчанию приписывать сознание. В частности, для животных вред ложноположительных результатов состоит в том, что мы обращаемся с объектами как с субъектами без необходимости, формируя с ними неадекватные связи и отвлекая ресурсы от реальных субъектов, которые в них нуждаются. Вред же ложноотрицательных результатов состоит в том, что мы обращаемся с субъектами как с объектами без необходимости, потенциально причиняя или допуская их страдания в огромных масштабах и по пустяковым причинам. Хотя обе ошибки плохи, ошибка обращения с субъектами как с объектами часто гораздо хуже, чем ошибка обращения с объектами как с субъектами.
***
Значит ли это, что ложноотрицательные результаты всегда хуже для подхода предосторожности? Не обязательно. В некоторых контекстах ложноположительные результаты могут быть чрезвычайно плохи. Например, сверхатрибуция сознания ИИ могла бы быть гораздо хуже, чем сверхатрибуция сознания животных. Если бы мы поверили, что будущие системы ИИ обладают сознанием, мы могли бы почувствовать давление предоставить им политические права. Результатом могло бы стать умаление прав человека, возможно, даже вымирание — и всё ради сущностей без внутренней психической жизни.
Примечание. Ник Бостром предположил, что продвинутый ИИ может привести к вымиранию человечества — либо потому, что люди потеряют контроль над технологией, либо потому, что мы сохраним контроль и используем её в дурных целях. Многие эксперты продолжают высказывать сходные опасения, включая Макса Тегмарка и Стюарта Рассела. Оставляя в стороне вопрос о сознании, предоставление политических прав системам ИИ, по-видимому, увеличило бы риск вымирания человечества.
Даже низкая, но не пренебрежимая вероятность такого исхода (о чём подробнее через минуту) могла бы быть достаточной, чтобы вред сверхатрибуции соперничал с вредом недоатрибуции. Тем не менее более широкая мысль остаётся: политика скептицизма по умолчанию часто проблематична для подхода предосторожности.
***
Теперь возьмём подход ожидаемой значимости. Если наша цель — максимизировать ожидаемую ценность, тогда нам также следует иногда по умолчанию приписывать сознание, с различной степенью моральной заботы, соответствующей нашей различной степени уверенности в наличии сознания. Действительно, согласно одной интерпретации этого подхода, мы должны приписывать по меньшей мере некоторое сознание (пусть даже очень малое) всем сущностям с ненулевой вероятностью обладать сознанием. При текущем состоянии науки о сознании этот взгляд мог бы подразумевать, что мы должны приписывать по меньшей мере некоторое сознание если не всем сущностям во вселенной, то по крайней мере очень многим из них, включая позвоночных, беспозвоночных, растения, грибы, бактерии, вирусы, чат-ботов, роботов и, возможно, даже части или совокупности этих существ, такие как области мозга или колонии насекомых.
Конечно, другие интерпретации этого взгляда устанавливают более высокую планку, утверждая, что мы должны приписывать по меньшей мере некоторое сознание всем сущностям с непренебрежимой вероятностью обладать сознанием. Что считать непренебрежимым риском, согласно таким взглядам? Ответы на этот вопрос, как правило, колеблются между риском один к десяти квадриллионам и риском один к десяти тысячам. Однако, хотя эти взгляды могут расходиться в отношении некоторых случаев, они сходятся в отношении приписывания по меньшей мере некоторого сознания всем сущностям с, скажем, как минимум одним шансом из тысячи обладать сознанием — стандарт, которому правдоподобно соответствует множество сущностей. В любом случае, настоящая мысль здесь снова просто в том, что политика скептицизма по умолчанию часто, и, возможно, очень часто, проблематична и для подхода ожидаемой значимости.
***
Итак, когда вопрос стоит о том, что́ допускать на теоретическом уровне этики, какое место это оставляет для вариантов вроде «все животные обладают сознанием», «все живые существа обладают сознанием» и так далее? Хотя полный ответ выходит за рамки данной статьи, на высоком уровне я могу сказать следующее. Мы должны приписывать по меньшей мере некоторое сознание, пусть даже очень малое, многим из существ, обсуждаемых в этой статье, согласно подходу ожидаемой значимости при текущих свидетельствах. А когда потенциальный вред, связанный с ложноотрицательными результатами, явно хуже потенциального вреда, связанного с ложноположительными, — условие, которое правдоподобно выполняется в широком спектре случаев, даже если оно с большей вероятностью выполняется для одних существ, таких как нечеловеческие животные, чем для других, таких как системы ИИ, — тогда нам следует делать то же самое согласно подходу предосторожности.
Теперь мы можем обратиться к практическому уровню этики. Даже если в принципе было бы идеально обращаться с секстиллионами существ как по меньшей мере минимально сознательными, не всегда может быть идеальным принимать, продвигать или применять это допущение на практике. В конце концов, значительные ограничения нашего знания, власти и мотивации формируют то, чего мы можем реалистично достичь и поддерживать. Решая, какие допущения принять, мы должны, следовательно, учитывать не только то, какие из них наилучшим образом управляют рисками при прочих равных, но и то, какие из них с наибольшей вероятностью будут реализованы и поддержаны конкретными агентами в конкретных контекстах и создадут импульс к лучше откалиброванному моральному кругу. И хотя более инклюзивное допущение часто может быть лучшей принципиальной позицией, более исключающее допущение иногда может быть лучшей прагматической позицией.
Есть много причин, по которым теория и практика могут расходиться в этом отношении. Рассмотрим две.
***
Во-первых, на практике мы, как правило, лучше применяем простые правила, чем сложные. Так, например, даже если кто-то считает, что присвоение разной вероятности сознания каждому виду идеально в теории, он всё равно может полагать, что более простой подход — скажем, присвоение 90% вероятности млекопитающим, 80% — птицам, 70% — другим позвоночным, 60% — головоногим и десятиногим, 50% — другим беспозвоночным и так далее — является наилучшим для некоторых целей на практике. Причина не в том, что эти оценки идеально уравновешивают риск ложноположительных и ложноотрицательных результатов, а скорее (можно полагать) в том, что они дают наиболее близкое приближение к этому идеалу, которое можно ожидать от обычных агентов в повседневной жизни.
Примечание. Шелли Каган называет взгляды, выраженные в этом абзаце, «практическим реализмом».
***
Во-вторых, мы также, как правило, лучше реализуем постепенные изменения, чем преобразовательные.
Примечание. Или, по крайней мере, постепенные изменения легче принимаются общественными институтами, тогда как преобразовательные изменения рискуют спровоцировать сопротивление.
Так, например, даже если кто-то считает, что приписывание сознания всем животным, растениям, грибам, бактериям, вирусам, чат-ботам, роботам и так далее идеально в теории, он всё равно может заключить, что более постепенный подход — например, приписывание по меньшей мере минимального сознания всем позвоночным, многим беспозвоночным и некоторым ближайшим системам ИИ в качестве отправной точки — идеален на практике. Опять же, причина не в том, что это более скромное допущение о распределении сознания идеально уравновешивает риски ложноположительных и ложноотрицательных результатов, а в том, что оно представляет собой наибольший объём расширения морального круга, который от агентов и институтов можно реалистично ожидать в настоящее время.
***
Значит ли это, что на практике мы всегда должны принимать или продвигать простые, умеренные допущения? Не обязательно. Часто может быть полезно самому принимать относительно сложные и радикальные допущения, продвигая при этом относительно простые и умеренные для других. Кроме того, часто может быть полезно продвигать сложные и радикальные допущения в одних контекстах (скажем, при разговоре с коллегами-исследователями) и простые или умеренные — в других (скажем, при разговоре с компаниями и правительствами). И часто может быть полезно принять разделение труда, при котором одни люди продвигают сложные или радикальные допущения, чтобы сместить центр дебатов и проложить путь для постепенных реформ, а другие продвигают простые или умеренные, чтобы сместить рамки и проложить путь для преобразовательных изменений.
Конечно, проблема для этики — как и для науки — состоит в том, что теорию и практику во многих случаях легко смешать. Предположим, я утверждаю, что мы должны обращаться со всеми живыми существами как по меньшей мере минимально сознательными. Даже если моё намерение состоит в том, чтобы выдвинуть этот аргумент на уровне теории, утверждая, что все живые существа заслуживают по меньшей мере минимального морального внимания, люди могут интерпретировать меня как выдвигающего его на уровне практики, выступающего за немедленные и преобразовательные политические изменения. Напротив, предположим, я утверждаю, что только позвоночных и некоторых беспозвоночных следует рассматривать как минимально сознательных. Даже если моё намерение состоит в том, чтобы выдвинуть этот аргумент на уровне практики, предлагая меры, которые могут быть приняты сегодня, люди могут интерпретировать меня как выдвигающего его на уровне теории, отрицающего, что другие существа заслуживают даже минимального морального внимания.
***
В более общем плане, исходные допущения в науке и этике сами по себе легко смешать. Предположим, я утверждаю, что насекомые или ближайшие системы ИИ заслуживают морального внимания. Если мой аргумент достигнет достаточно широкой аудитории, я могу ожидать, что некоторые из его нюансов исчезнут: одни люди услышат меня как утверждающего, что эти существа либо обладают сознанием, либо, по крайней мере, вероятно, обладают им. Напротив, предположим, я утверждаю, что эти существа либо не обладают сознанием, либо, по крайней мере, вероятно, не обладают. Здесь я могу ожидать того же искажения в обратную сторону: некоторые люди услышат меня как отрицающего, что эти существа заслуживают морального внимания. Во всех случаях эти смешения — включающие допущения, сделанные для научной теории, научной практики, этической теории и этической практики, — должны тщательно регулироваться.
Хотя я не смогу здесь сказать, как лучше всего взвешивать эти факторы, я сделаю по крайней мере одно замечание пока, не защищая его полностью. На мой взгляд, ни один из обсуждаемых здесь уровней не должен иметь лексического приоритета над другими в случаях конфликта. Например, может быть соблазнительно сказать, что научная теория должна иметь лексический приоритет над этикой и практикой. Но наука, этика, теория и практика слишком переплетены для такой простой политики, и есть много случаев, когда простые приближения к истине (скажем, «все животные имеют реальную вероятность обладать сознанием») наилучшим образом подходят не только для достижения научного и этического прогресса, но и для приближения обществ к истине. В этих и других подобных случаях было бы явной ошибкой сосредоточиваться только на свидетельствах, не делая никаких уступок этике или практике.
***
Итак, когда вопрос стоит о том, что́ допускать на практическом уровне этики, какое место это оставляет для вариантов вроде «все животные обладают сознанием», «все живые существа обладают сознанием» и так далее? Как и в науке, многое зависит от контекста. Предположим, я верю, что в принципе мы должны приписывать по меньшей мере минимальное сознание всем существам, обсуждаемым в этой статье. То, что следует для моих повседневных решений, может быть сложным. Для целей принятия решений как индивида, возможно, мне следует принять наиболее близкое приближение к идеальной гипотезе, которое от меня можно ожидать усвоить. Но для целей коммуникации с другими, возможно, мне следует пытаться встречать разные аудитории там, где они находятся, продвигая наиболее близкое приближение, которое от них можно ожидать принять в настоящее время, но при этом оставляя дверь открытой для дальнейшего расширения в будущем.
Подведём итог: я предположил, что нам следует принимать разные допущения о распределении сознания для разных целей в этике, как и в науке. На теоретическом уровне наши исходные допущения должны в идеале уравновешивать риск ложноположительных и риск ложноотрицательных результатов. На практическом уровне наши исходные допущения должны также отражать то, что конкретные агенты способны достичь и поддерживать в настоящее время, и то, что создаст импульс к лучше откалиброванному моральному кругу в будущем. Как и в науке, наши допущения в этике будут иметь тенденцию быть более статичными в теории и более динамичными на практике, учитывая контекстуальный характер практического принятия решений. Однако, в отличие от науки, наши допущения в этике могут быть более инклюзивными в теории и более исключающими на практике, отражая разрыв между «идеальным» и «неидеальным» подходами к этике.
5. Заключение
Я утверждал, что нам следует выбирать разные исходные допущения о распределении сознания для разных целей и в разных контекстах, как внутри, так и за пределами царства животных. Возьмём исходные допущения в науке. На теоретическом уровне задача состоит в том, чтобы определить, какие допущения, вероятно, окажутся верными, учитывая текущие свидетельства и теорию (мы можем назвать их нашими фактическими гипотезами). На практическом уровне задача состоит в том, чтобы определить, какие допущения, вероятно, будут стимулировать научный прогресс в конкретных случаях, отчасти поддерживая устоявшиеся исследовательские программы, а отчасти открывая новые (мы можем назвать их нашими рабочими гипотезами). В целом цель состоит в том, чтобы уравновесить теоретическую строгость и практический прогресс, признавая, что допущения работают по-разному, когда они воспринимаются как утверждения об истине и когда — как простые инструменты.
Мы можем провести сходное разграничение в этике. На теоретическом уровне задача состоит в том, чтобы определить, какие допущения идеально уравновешивают риски, связанные с ложноположительными результатами (то есть что происходит, когда мы ошибочно принимаем объекты за субъекты), и риски, связанные с ложноотрицательными результатами (то есть что происходит, когда мы ошибочно принимаем субъекты за объекты) (мы можем назвать их нашими идеальными гипотезами). На практическом уровне задача состоит в том, чтобы определить, какие допущения, вероятно, будут стимулировать этический прогресс в настоящее время, отчасти создавая импульс к лучше откалиброванному моральному кругу в будущем (мы можем назвать их нашими неидеальными гипотезами). В целом, здесь цель также состоит в том, чтобы уравновесить устремлённость и реализуемость, признавая, что крайне инклюзивные предложения могут легко привести к обратному результату, тогда как крайне исключающие могут легко увековечить предотвратимый вред.
***
Существует множество интересных связей между этими четырьмя общими целями для формулирования исходных допущений. И в науке, и в этике наилучшие допущения на уровне теории, вероятно, будут более статичными, поскольку они стремятся отразить то, что истинно или правильно при текущей информации и аргументации. Напротив, наилучшие допущения на уровне практики, вероятно, будут более динамичными и контекстуальными, поскольку они должны адаптироваться к меняющимся способностям и приоритетам несовершенных агентов и институтов. В обоих случаях разделение труда между теорией и практикой может быть полезным, поскольку оно позволяет нашим теоретическим допущениям обеспечивать стабильность, а нашим практическим допущениям — гибкость. Но оно также может приводить к напряжениям как внутри науки и этики, так и между ними, и с этими напряжениями необходимо обращаться осторожно.
Другая связь касается того, насколько широкими должны быть наши допущения. Наилучшие допущения на уровне научной теории и этической практики, вероятно, будут более исключающими, поскольку они, как правило, ограничены требованием свидетельств и реализуемости соответственно. Напротив, наилучшие допущения на уровне научной практики и этической теории, вероятно, будут более инклюзивными, поскольку они могут смотреть за пределы того, что мы считаем верным и реалистичным в настоящем, соответственно. Здесь разделение труда также может быть полезным, поскольку постепенность в одних областях может предотвратить эффекты обратного результата, тогда как радикализм в других может предотвратить эффекты фиксации. Однако и здесь могут возникать напряжения, и достижение баланса может требовать хотя бы некоторого внимания к практическим соображениям в исследовательских контекстах и к теоретическим соображениям в политических контекстах.
***
Тем не менее, несмотря на эти различия, сходство для всех четырёх целей состоит в том, что универсальная политика отрицания нечеловеческого сознания, если только сильные свидетельства не подтверждают его, часто проблематична. В науке такая политика может ограничить нашу способность отражать неопределённость относительно сознания и продвигаться к надёжной теории. В этике она может ограничить нашу способность минимизировать риски для благополучия и продвигаться в расширении морального круга. Хотя нам, по-видимому, следует избегать приписывания полного сознания всем сущностям, обсуждаемым в этой статье, во всех контекстах, мы должны по меньшей мере приписывать некоторое сознание многим из этих сущностей во многих контекстах. Там, где это возможно, нам также следует использовать вероятностные оценки для достижения баланса, поскольку вероятностные оценки полезны для моделирования нашей неопределённости и определения пропорциональности при выработке политики.
***
Ставки наших исходных допущений о распределении сознания высоки. Хотя исследователи продвигаются к надёжной теории сознания, мы ещё не на пороге достижения этой цели. И по мере продолжения прогресса наши исходные допущения о распределении сознания могут формировать наши решения в целом ряде контекстов, определяя траекторию науки о сознании и судьбы бесчисленных сущностей. В этой статье я провёл ряд разграничений и сделал ряд наблюдений, которые, я надеюсь, могут быть полезны в этой затруднительной ситуации. Но их будет недостаточно. Необходимы дальнейшие исследования, прежде чем мы сможем ответственно определить, что́ допускать о различных видах сущностей — от растений и грибов до роботов и чат-ботов — для различных целей — от исследований и образования до продовольственной и инфраструктурной политики.
Заявления
- Автор заявляет, что исследование проводилось при отсутствии каких-либо коммерческих или финансовых отношений, которые могли бы быть истолкованы как потенциальный конфликт интересов.
- Автор заявляет, что генеративный ИИ использовался при создании данной рукописи. Генеративный ИИ использовался для помощи в проверке фактов и редактуре. Автор рассмотрел и отредактировал все предложения и несёт полную ответственность за содержание.
Об авторе
Джефф Себо (Jeff Sebo) — американский философ, один из наиболее заметных современных мыслителей в области этики отношений человека с нечеловеческими формами жизни. Он является ассоциированным профессором экологических исследований и аффилированным профессором биоэтики, медицинской этики, философии и права в Нью-Йоркском университете (NYU). Также он возглавляет Центр защиты окружающей среды и животных (Center for Environmental and Animal Protection) и Центр разума, этики и политики (Center for Mind, Ethics, and Policy).
Научные интересы Себо лежат на стыке моральной и правовой философии. Он исследует природу разума, субъективного опыта и морального статуса широкого круга существ: от животных (включая беспозвоночных) до искусственного интеллекта и потенциально сознающих форм материи. Его ключевой тезис заключается в необходимости расширения «морального круга» и применения вероятностного подхода при оценке наличия сознания у нечеловеческих субъектов.
Эта теория получила развитие в его книге «The Moral Circle: Who Matters, What Matters, and Why» (2025). В ней он отвергает антропоцентрический взгляд на исключительность человеческого сознания и последовательно аргументирует, что критериям субъективного опыта могут соответствовать не только млекопитающие, но и насекомые, растения, грибы, микроорганизмы и даже сложные алгоритмы. Помимо этого, Себо — автор книг «Saving Animals, Saving Ourselves» (2022) и ряда работ по трансформации продовольственных систем и глобальной биоэтике.
Глоссарий
Априорная / апостериорная вероятность (prior / posterior probability) — в байесовской статистике: вероятность, присваиваемая гипотезе до учёта новых данных (априорная) и после их учёта (апостериорная).
Идеальная гипотеза (ideal hypothesis) — в этике: допущение, которое наилучшим образом уравновешивает риски ложноположительных и ложноотрицательных результатов в идеальных условиях.
Исходное допущение / допущение по умолчанию (default assumption) — предположение, принимаемое за отправную точку до получения решающих свидетельств. В науке это может быть гипотеза, которую исследователь считает рабочей; в этике — позиция, принимаемая для минимизации рисков.
Канон Моргана (Morgan’s Canon) — принцип, согласно которому поведение животных следует объяснять простейшими возможными психическими процессами. Подвергается критике как методологически и этически сомнительный.
Лайклихудистский подход (от англ. likelihood — правдоподобие, likelihoodism) — это статистическая концепция, согласно которой все доказательное значение данных, собранных в ходе эксперимента, полностью содержится в функции правдоподобия. Это независимая «третья» ветвь статистики, которая стоит особняком от байесовского и классического (частотного) подходов. В отличие от других методов, лайклихудизм обладает рядом уникальных особенностей. Например, отказ от априорных вероятностей. В отличие от Байесовской статистики, данный метод не требует введения субъективных начальных убеждений или априорных распределений (priors). Второе отличие — оценка на основе отношения правдоподобия (Likelihood Ratio): сила доказательств в пользу одной гипотезы относительно другой оценивается исключительно через математическое отношение их функций правдоподобия.
Ложноположительный результат / ошибка первого рода (false positive / Type I error) — ошибочное приписывание сознания тому, кто им не обладает (например, обращение с неодушевлённым объектом как с чувствующим субъектом).
Ложноотрицательный результат / ошибка второго рода (false negative / Type II error) — ошибочное отрицание сознания у того, кто им обладает (обращение с чувствующим субъектом как с объектом).
Маркеры сознания (markers of consciousness) — наблюдаемые признаки (поведенческие, анатомические, нейрофизиологические), которые с высокой вероятностью указывают на наличие сознания.
Метод маркеров (marker method) — подход, при котором учёные выделяют поведенческие или анатомические признаки, надёжно связанные с сознанием у людей, и затем ищут сходные маркеры у других существ. Не даёт доказательств, но позволяет делать вероятностные оценки.
Моральный круг (moral circle) — совокупность существ, которым данный индивид или общество приписывают моральную значимость. Расширение морального круга означает включение в него новых групп (животных, будущих ИИ и т.д.).
Неидеальная гипотеза (non-ideal hypothesis) — допущение, наилучшим образом подходящее для реальных, ограниченных агентов в конкретном социальном контексте, с учётом их когнитивных и мотивационных ограничений.
Нулевая гипотеза (null hypothesis) — в статистике: предположение об отсутствии эффекта или различия, которое проверяется данными. В контексте статьи термин часто используется расширительно — как исходное предположение об отсутствии сознания у не-людей. Автор предпочитает говорить об «исходных гипотезах», чтобы избежать путаницы со строгим статистическим смыслом.
Панпсихизм (panpsychism) — философское воззрение, согласно которому сознание является фундаментальным и вездесущим свойством материи (подобно массе или заряду).
Принцип предосторожности (precautionary principle / view) — в этике: стратегия избегания наихудших сценариев. Применительно к сознанию означает, что если вред от ложного отрицания сознания превышает вред от ложного приписывания, следует по умолчанию считать существо сознательным.
Принцип ожидаемой значимости / ожидаемой ценности (expected weight / expected worth principle) — подход, предписывающий умножать вероятность наличия сознания на величину потенциального благополучия или страдания, чтобы пропорционально распределять моральную заботу.
Проблема других умов (problem of other minds) — эпистемологическая трудность: имея прямой доступ только к собственному сознанию, как мы можем узнать, обладают ли сознанием другие существа?
Рабочая гипотеза (working hypothesis) — допущение, принимаемое не потому, что оно предположительно истинно, а потому, что оно полезно для стимулирования исследований и прогресса.
Сознание (consciousness) — способность к субъективному переживанию; свойство «быть чем-то похожим» на данного субъекта. Включает как сенсорные переживания (зрение, слух, боль), так и аффективные состояния (удовольствие, страдание). В статье речь идёт прежде всего о феноменальном сознании.
Трудная проблема сознания (hard problem of consciousness) — проблема объяснения того, почему и как физические процессы в мозге сопровождаются субъективными переживаниями (термин Дэвида Чалмерса).
Фактическая гипотеза (actual hypothesis) — термин автора: допущение, которое, как мы полагаем, с наибольшей вероятностью истинно при текущих данных.
Чувствительность (sentience) — способность испытывать положительные и отрицательные переживания (удовольствие, боль, счастье, страдание). Часто используется как морально значимая грань сознания: именно она, по мнению многих философов, наделяет существо моральным статусом.
Эвиденциализм (evidentialism) — позиция, согласно которой ни одна гипотеза не должна приниматься по умолчанию; решение всегда должно основываться исключительно на наличных свидетельствах.
P.S.
Ну вот, кто-то смог прочитать статью целиком. И это здорово! Своим частным богословским мнением по поводу прочитанного я поделюсь позже, в комментариях. Пока пущай всё уляжется в голове. А через пару дней займусь новым переводом — накопилось…
(с) Джефф Себо, 2026
(с) перевод Александр Зеневич, 2026. Неоценимую помощь в переводе оказал DeepSeek, за что спасибо ему и его создателям.
При цитировании материала просьба ссылаться на эту страницу. Вам несложно — мне приятно.
