В 1984 году философ Аарон Сломан предложил ученым описать «диапазон возможных видов сознания», намекнув тем самым, что человеческие сознания, во всем своем многообразии, не являются единственным видом таковых. Например, есть сознания других живых существ, вроде шимпанзе, ворон или осьминогов. Но диапазон вариантов должен включать также сознания форм жизни, развивавшихся где-то еще в нашей Вселенной, и эти виды сознания могут весьма отличаться от любого творения земной природы. Диапазон возможных вариантов включает в себя таких теоретических существ даже если мы одни во Вселенной, равно как и формы жизни, которые могли эволюционировать на Земле при других обстоятельствах.



Также необходимо учитывать вероятность создания искусственного интеллекта (ИИ). Можно сказать, что интеллект «определяет общую способность субъекта выполнять задачи в широком ряду конфигураций внешних факторов», если следовать определению, принятому специалистами по информатике Шэйном Лэггом и Маркусом Хаттером. Согласно этому определению, на сегодняшний день не существует ничего биологического, хотя бы приближающегося к уровню человеческого интеллекта. И хотя существуют компьютерные программы, способные превзойти человека в трудоемких и в то же время специфических интеллектуальных областях, таких, как игра в Го, например, ни один компьютер или робот еще не достиг универсальности человеческого интеллекта.

Но именно эти обладающие ИИ продукты — будь то уровень крысы, человека или еще выше — представляют для нас наибольший интерес, так как могут быть включены в диапазон сознаний. Действительно, ввиду того, что вариабельный потенциал таких продуктов сильно превосходит аналогичный потенциал в естественно эволюционировавшем интеллекте, искусственные версии сознания могут занять бóльшую часть этого диапазона. Некоторые из примеров могут быть настолько странными, что мы можем называть их «экзотикой сознаний».

Ниже я предпринимаю попытку ответить на вызов Сломана, описав структуру возможных сознаний в двух плоскостях: способность к самосознанию и человекоподобие поведения. Кажется, что в таком содержании безоговорочно должна быть признана возможность существования настолько чуждых форм самосознания, что мы их не поймем. Однако мне важно присоединиться к Людвигу Витгенштейну и вслед за ним отвергнуть дуалистическую идею о том, что существует непроницаемый мир субъективного опыта, который формирует особую часть нашей реальности. Метафизически выражаясь, я предпочитаю мнение «ничто не скрыто». Трудность здесь в том, что принятие идеи о существовании непостижимого разума на первый взгляд снова признает дуалистическое утверждение о том, что сознание, как бы сказать, «открыто для глаз», но по своей природе является личным и скрытым феноменом. Я пытаюсь показать, как избежать этого затруднения.

Хорошая точка для старта — широко известная трактовка (скромно) экзотичной субъективности летучей мыши, за авторством Томаса Нагеля. Ему интересно, каково же это ― быть летучей мышью, и он сетует на то, что когда пытается это представить, он ограничен ресурсами собственного сознания, к тому же эти ресурсы не подходят для данной задачи. Вывод из позиции Нагеля заключается в том, что определенные виды фактов — в частности, связанных с кардинально другим субъективным взглядом — просто недоступны для восприятия нашим разумом. Это согласуется с аргументом дуалистов о том, что ни одна оценка реальности не может быть полной, если она состоит только из субъективных фактов и пренебрегает этой субъективностью. И все же я считаю, что нужно сопротивляться попыткам дуалистов расщепить реальность на такие фрагменты. Поэтому, если мы соглашаемся с ходом мыслей Нагеля, экзотические сознания становятся проблемой.

Но, как мне видится, проблема, возникающая в случае с летучими мышами, не столь важна. Относительно экзотические внутренние миры нечеловекоподобных животных представляются Нагелю проблемой только потому, что он предоставляет онтологический статус повседневным индексальным различиям. Я не могу одновременно быть и здесь, и там одновременно. Но эта плоскость не охватывает существование фактов, неизменно связанных с отдельно взятым субъективным мнением. Нельзя позволить слову «знать» одурачить нас; его присутствие не означает, что предложение «будучи человеком, я не могу знать, каково это — быть летучей мышью» выражает что-то более философски загадочное, чем «я человек, а не летучая мышь». Мы вечно можем гадать, каково это — быть летучей мышью, при этом фантазируя, чтобы усилить впечатления (что и делает Нагель). В процессе мы можем делать замечания об ограниченности таких размышлений. Ошибкой же будет делать вывод (как поступает Нагель) о том, что, должно быть, существуют какие-то фактические обстоятельства, определенные субъективные «истины», которые ускользают от наших совместных попыток разобраться в вопросе.



В этом я беру пример с позднего Витгенштейна и его работы Философские исследования (1953). Принцип, лежащий в основе непризнания автором личного языка — языка со словами и ощущениями, которые понятны только одному человеку в мире — состоит в том, что мы можем говорить только о том, что видим перед собой, что публично, открыто общему виду. Насчет всего остального, что ж, «ничто так не полезно, как что-то, о чем нельзя ничего сказать». Слова, предпочитаемые для личных, внутренних ощущений, не будут иметь никакой полезной функции в нашем языке. Конечно, вещи могут быть скрыты в практическом ключе, как шарик под чашкой фокусника или звезда вне нашего светового конуса. Но с точки зрения метафизики все досягаемо. Когда мы говорим о внутренних мирах других существ, всегда есть на что пролить свет, — через взаимодействие, наблюдение, изучение того, как они существуют — но не имеет смысла говорить так, будто есть что-то за пределами открываемого.

Следуя данному ходу мыслей, мы, каким бы странным это не казалось, не должны приписывать непознаваемую субъективность ни другим людям, ни летучим мышам, ни осьминогам, ни даже внеземным формам или ИИ. Но вот что является настоящей проблемой в области радикальных форм самосознания: Нагель обоснованно допускает, будто «мы все считаем, что летучие мыши могут испытывать, переживать, познавать»; мы можем не понимать, что значит быть летучей мышью, и все же мы допускаем, что это похоже на что-то. Но исследовать диапазон возможных сознаний — значит питать надежды о существовании существ, намного более экзотических, чем земные виды. Возможно ли, что диапазон возможных сознаний включает в себя настолько загадочных существ, что мы не сможем определить, испытывают ли они вообще осознанные впечатления? Отмахнуться от этих биоцентристских пощечин возможного. И в то же самое время подставить им щеку означает заигрывать с дуалистической мыслью о существовании скрытого порядка субъективных фактов. На контрасте с вопросом о том, на что похоже быть X, конечно, нам не терпится сказать, будто существует фактическое обстоятельство, когда встает вопрос о том, похоже ли на что-то вообще быть X. Также и здесь, имеет ли существо сознательный опыт или нет, нет разницы, можем ли мы это определить.

Попробуйте провести такой мысленный эксперимент. Представим, что однажды утром я прихожу в лабораторию и нахожу белый контейнер, с невероятно сложной динамической системой внутри, при этом её внутренний механизм полностью открыт взгляду. Может быть, это подарок посетившего лабораторию инопланетянина, а может какая-то конкурирующая ИИ-лаборатория позволила эволюционным алгоритмам своего продукта выйти из-под контроля и, не зная, что делать с таким результатом, подложила его нам. Представьте, что я должен принять решение, уничтожать контейнер или нет. Как я могу быть уверен в моральной приемлемости своего решения? Существует ли какой-то метод или процедура, с помощью которой я могу определить, присутствовало ли в контейнере самосознание, в некотором его смысле?

Один из способом начать работать с этой проблемой — изобрести объективную систему измерений самосознания, такую математическую функцию, которая, получив данные физического описания, выдает число, выражающее степень самосознания этой системы. Нейроученый Джулио Тонони ставил перед собой задачу восполнить этот пробел с помощью единицы измерения Φ (фи), которую он описал в своей статье о так называемой «теории интегрированной информации». В ней Φ описывает величину, измеряющую, насколько целая система, в теоретико-информационном ключе, больше суммы ее частей. Для Тонони самосознание является Φ в той же степени, что и вода является H2O. Поэтому теория интегрированной информации заявляет о своей способности предоставить необходимые и достаточные условия для существования самосознания в любой динамической системе.

Основная проблема этого подхода в том, что он отделяет самосознание и поведение. Абсолютно изолированная система может иметь высокий Φ несмотря на отсутствие взаимодействия с окружающим миром. А ведь наша обычная концепция самосознания неразрывно связана с поведением. Если вы скажете мне, что человек знал или не знал чего-то (приближающийся автомобиль, проходящий мимо друг), это дает мне возможность строить определенные ожидания об их действиях (нажмут ли на тормоз, поздороваются ли с другом). Я тоже могу сделать похожие замечания для вас о том, что я знал, чтобы объяснить свое поведение. «Я только что вспомнил, что она сказала»; «Я почти не вижу разницы между этими цветами»; «Я пытаюсь посчитать эту сумму в голове, но это слишком сложно»; «Сейчас уже не так больно», — все эти предложения помогают объяснить мое поведение приятелям (но только говорящим на моем языке) или играть роль в нашей ежедневной социальной деятельности. Они помогают нам держать друг друга в курсе того, что мы делали в прошлом, чем заняты сейчас и что, скорее всего, будем делать в будущем.

Только когда мы занимаемся философией, мы начинаем говорить о самосознании, опыте и ощущениях в ключе личной субъективности. Это ведет к разделению на легкую и трудную проблему, предложенному Дэвидом Чалмерсом, к метафизически важному разделению между внутренним и внешним — иными словами, к форме дуализма, в которой субъективный опыт является онтологически обособленным элементом реальности. Витгенштейн предоставляет противоядие от этого хода мысли в своих ремарках о личном языке, чьим центральным элементом является внешнее, публичное проявление, если речь идет о нашем опыте. Для Витгенштейна «только о живом человеческом существе и подобном ему (в поведении) существе можно сказать: у него есть ощущения, оно видит… оно сознательно или бессознательно».

Следуя Виттгенштейну, мы приходим к такому правилу: мы можем говорить о сознании только на фоне целенаправленных действий. В свете сказанного, для установления факта существования сознания недостаточно будет знать, что какая-то система, к примеру, та же белая коробка из нашего эксперимента, обладает высоким Ф. Для этого необходимо распознать целеустремленность поведения. Чтобы это произошло, систему нужно рассматривать как часть окружающей среды. Нужно будет принять то, что окружающая среда влияет на систему, а система — на окружающую среду, вплоть до собственного разрушения. Если бы эта система была животным, окружающая среда была бы нам знакома, ведь мы сами с ней взаимодействуем, а тот факт, что она по-разному влияет на различных существ, можно было бы опустить. Но чтобы выявить целеустремленные действия в незнакомой системе (будь то создание или сущность), нам может потребоваться смоделировать столкновение с ней.

Даже в случае с чем-то уже знакомым, эта задача может оказаться вовсе не из легких. Например, в 2006 году нейробиолог Эдриан Оуэн со своей командой смогли найти способ установить контакт с невменяемыми больными, используя функциональную магниторезонансную томографию. Пациентов попросили представить себе две ситуации, которые, как известно, вызывают определенные сигналы ФМРТ у здоровых людей: как они идут через дом и как они играют в теннис. Обследование показало определенную реакцию у ряда невменяемых пациентов на соответствующие речевые команды, что говорит о том, что они были в состоянии их воспринимать, попытались ответить на них и могли управлять воображением. Этот эксперимент можно расценивать как «моделирование столкновения» с пациентами, особенно, если учесть, что их поведение рассматривалось на контрасте с тем, что на протяжении многих лет демонстрировали здоровые люди.



Как только мы различаем признаки целенаправленного поведения в объекте изучения, мы можем начать наблюдать за ним и (хотелось бы надеяться) взаимодействовать с ним. По результатам наблюдений и взаимодействия, мы бы могли сделать вывод о наличии сознания. Или, если посмотреть с другой стороны, мы могли бы начать относиться к нему так, как мы привыкли относиться к знакомым и сознательным созданиям.

Стоит задержаться на вопросе о разнице между этими двумя формулировками. Первая отличается тем, что подразумевает наличие неопровержимого факта. Обладал ли объект сознанием до нашего вмешательства или нет, можно установить посредством научного исследования, в котором будет сочетаться эмпирическое и рациональное. Вторая формулировка обязана своим существованием Витгенштейну. Со скепсисом размышляя о том, что друг может оказаться лишь автоматом — феноменологическим зомби, как мы бы сказали сегодня — Витгенштейн заметил что наврядли у его друга есть душа. По его словам, скорее «мое отношение к нему — отношение к душе». (Под фразой «есть душа» можно понимать «обладает сознанием, способен радоваться и страдать»). Смысл этого вывода заключается в том, что в повседневной жизни мы не задумываемся, основываясь на наблюдениях, о том, обладают ли наши друзья и близкие сознанием как мы сами. Суть этой формулировки намного более глубока. Мы просто принимаем за аксиому то, что они такие же как мы, и обращаемся с ними соответственно. В нашем отношении к ним нет места сомнению.

Какое отношение имеет эта витгенштейновская сентиментальность к существам, отличным от человека или других животных? Теперь мы можем переформулировать проблему белой коробки и вопрос о том, существует ли метод, определяющий наличие в этой коробке, в некотором смысле, сознания? Вместо этого мы можем спросить себя: при каких обстоятельствах мы начнем относиться к этой коробке или к ее части так же, как мы привыкли относиться к знакомым существам, обладающим сознанием?

Начнем с не слишком необычного гипотетического случая, с антропоморфного робота, обладающего искусственным интеллектом на уровне человеческого: с робота по имени Ава из фильма Ex Machina, снятого Алексом Гарлендом в 2015 году.

По сюжету программист Калеб вынужден поехать в отдаленное «убежище» своего босса Нэйтана, миллиардера, гения и затворника. С самого начала его предупредили о том, что он будет своего рода человеческим фактором во время прохождения Авой теста Тьюринга. После первой встречи с ней Калеб напоминает Нэйтану, что во время настоящего теста Тьюринга субъект должен быть спрятан от тестирующего лица, в то время как сам Калеб уже знает, что Ава — робот. «Тогда посмотрим, считаешь ли ты до сих пор, что она обладает сознанием» (Можно назвать это «тестом Гарленда») По мере развития действия, у Калеба появляется все больше и больше возможностей наблюдать за Авой и взаимодействовать с ней, он перестает воспринимать ее как «всего лишь машину». Он начинает сочувствовать ей, ведь Натан лишил ее свободы и угрожает «аннулированием», в случае, если она провалит тест. Становится совершенно ясно, что к концу фильма Калеб начинает относиться к ней, как к любому другому обладающему сознанием существу.

Линия Авы и Калеба — отличная иллюстрация к пониманию сознания по Витгенштейну. Калеб приходит к такому отношению не в результате научного исследования или изучения работы мозга Авы, но посредством наблюдения и общения с ней. Его отношение к ней сформировано чем-то намного более глубоким, чем всего лишь точкой зрения. Не подумайте, что я против использования научного подхода в формировании отношения к какому-либо существу, особенно в более чужеродных для нас случаях. Смысл в том, что исследования могут только дополнить наблюдение и взаимодействие, но не заменить их. Как еще мы можем прикоснуться к другому сознательному существу, кроме как познакомившись с его миром и пожив в нем?



Калебу было относительно легко, ведь Ава немногим от него отличалась. Ее поведение было очень человечным, ее внешность — человекоподобной (в действительности, она была создана по подобию женщины, и казалась Калебу привлекательной). Но выдуманная Ава лишь иллюстрирует то, сколь затруднительными могут быть, казалось бы, понятные случаи. В опубликованной версии сценария можно найти описание последней сцены, благодаря которой конец фильма перестает казаться таким обрубленным. В нем говорится: «…Векторы лицевого опознания мелькают вокруг лица пилота. И когда он начинает говорить, мы не слышим речь. Мы слышим всплески монотонного шума. Низкий тон. Речь как способ узнать образ. Так нас видит Ава. И слышит нас. Это кажется совершенно чужеродным». Это описание показывает неоднозначность, лежащую в основе фильма. Мы, зрители, как и Калеб склонны считать, что Ава — разумное существо, способное на страдания. И все же существует соблазн усомниться в этом. Вдруг Калеб ошибся, и Ава, в конце концов, не обладает сознанием или обладает им в незнакомой нам форме.

Это очень соблазнительная манера размышлений, однако нужно обходиться с ней с предельной осторожностью. В теории вычислительных машин это — прописная истина: то, как ведет себя система не определяет то, как это поведение должно быть реализовано на практике. В действительности, искусственный интеллект одного уровня с человеческим, демонстрирующий человечное поведение может быть охарактеризован и по-другому. Он не должен обязательно копировать строение биологического мозга. С другой стороны, может статься, что сознание действительно зависит от воплощения. Если мозг существа напоминает наш, то это дает основание полагать, что сознание этого существа, его внутренний мир также схожи с нашими. Так принято считать. Но если что-то очень сильно от нас отличается и носитель информации обладает другим строением, то даже несмотря на человечность поведения, его сознание может очень сильно отличаться от нашего. Это может быть и феноменологический зомби, вовсе не обладающий сознанием.

Проблема этого утверждения в том, чтобы вписать его в подобие дуалистической метафизической картины, которой мы пытаемся обходиться. «В этом же и должно быть все дело?» — восклицаем мы. Либо ИИ обладает сознанием в том же смысле, что и мы с вами, либо нет. Хотя, похоже, мы никогда не сможем узнать наверняка. Это маленький шажок в сторону дуалистического представление о том, что частный и субъективный мир внутреннего восприятия существует отдельно от общего и объективного мира предметов психологии. Но нет никакой необходимости поддаваться этому дуалистическому суждению. И в то же время, его не стоит отрицать. Достаточно заметить, что в трудных случаях всегда можно узнать намного больше об объекте исследования: наблюдать за его поведением при множестве различных обстоятельств, найти новый способ взаимодействия с ним, исследовать процесс его работы более тщательно. Когда мы узнаем о нем больше, то, как мы с ним обращаемся, и то, как мы о нем отзываемся, изменится, и только таким образом, мы определимся, как к нему относиться. Возможно, отношение Калеба к Аве изменилось бы, если бы он больше с ней взаимодействовал и понял бы то, что ей движет. А может и нет.

До этого момента мы рассматривали только человекоподобных существ и не обсуждали ничего по-настоящему чужеродного для нас. Но нам потребуется расширить поле зрения, если мы хотим наметить возможные формы сознаний. Это даст нам возможность представить себе совершенно отличные от нас создания и обсудить их предполагаемые сознания.

Есть всевозможные направления, в которых мы могли бы создавать все то разнообразие разумов, которое мы можем себе представить. Из них я выбрал два: сходство с человеком (ось H) и способность к мышлению (ось C). Существо антропоморфно настолько, насколько применим к его поведению способ описания, который мы используем для человека — язык субъективных оценок, желаний, эмоций, потребностей, умений и так далее. Кирпич в этом смысле показывает очень низкий результат. По всевозможным причинам, чужеродное существо может тоже набрать мало баллов по шкале антропоморфности, в случае, если его поведение будет непостижимо сложным или неестественным для нас. Ось C, способность к сознанию, отражает богатство опыта, которым оно располагает. Кирпич не набирает ровным счетом ничего по этому критерию (вопреки панпсихизму), в то время как человек демонстрирует намного более высокий результат.

На рисунке 1 изображены графики H–C, на которых вдоль осей с минимальным значением 0 и максимальным значением 10 приблизительно расположены несколько животных. В точке (0, 0) расположен кирпич. Давайте рассмотрим, как происходит распределение вдоль оси C. Нет оснований полагать, что никакое другое существо никогда не превзойдет человека по уровню осознанности. Поэтому люди (возможно самонадеянно) получают 8 пунктов по этой шкале. Осознанность животных оценить сложно. Однако принято считать, что, по крайней мере у земных видов, осознанность тесно связана с когнитивными навыками. Отталкиваясь от этого, пчела должна иметь уровень осознанности ниже, чем кошка, которая, в свою очередь, чуть менее осознанна, чем осьминог, при этом уровень осознанности всех троих ниже человеческого. Такое распределение животных по шкале основано на диапазоне их возможностей, которые были выявлены в ряде этологических исследований. Это ассоциативное обучение, решение манипуляционных задач, социальное мышление, орудийная деятельность, временнóе мышление (в том числе планирование и эпизодическая память), а также коммуникативные навыки. Считается, что чем лучше развит каждый их этих навыков, тем богаче приобретаемый опыт. Рассматривая человека, к этим навыкам можно прибавить язык, способность к абстрактному мышлению и умение ассоциативно мыслить образами и метафорами.




Рисунок 1. Выше: животные на графике H–C. Ниже: современный искусственный интеллект на графике H–C.

Теперь давайте обратим внимание на ось H. В каком-то смысле это тавтология, но человеку присваивается максимум схожести с человеком. Поэтому по данной шкале мы получаем 10. Все остальные животные чем-то похожи на людей. Они имеют физические тела, перемещаются в пространстве и чувствуют окружающий мир, а также демонстрируют целенаправленное поведение. Более того, им свойственны схожие физические потребности, необходимые для выживания, такие как вода, пища и защита от травм. Поэтому каждому животному мы присваиваем 3 пункта по шкале H. Теперь, для того чтобы описать и объяснить поведение нечеловекоподобных животных, обратимся к понятиям и языку, которые используются для описания объяснения поведения людей. Поведение животных можно назвать человекоподобным только в том случае, когда необходимым и достаточным условием для его описания и объяснения является использование человеческого языка и человеческих понятий. И чем выше когнитивные способности вида, тем больше таких языковых ресурсов требуется. Поэтому кошка и осьминог находятся выше, чем пчела, но ниже, чем человек.

Отталкиваясь от сделанных нами предположений, можно сказать, что уровень осознанности у животных напрямую коррелирует со сходством с человеком. Несмотря на это, на шкале H осьминог располагается ниже, чем кошка, хотя по шкале C он продвинулся дальше. Я, в общем-то, не хочу отстаивать корректность этих приблизительных оценок. Однако осьминог представляет собой существо с хорошо развитыми когнитивными навыками, что позволяет отнести его к существам с высоким уровнем осознанности, при этом его поведение слишком сложно для человеческого понимания. Развивая эту мысль, можно представить сознательных существ, чье поведение еще более непостижимо, чем осьминожье. Такие существа опустятся до уровня кирпича по шкале H, но по самым разным причинам. Для описания и объяснения действий кирпича нет необходимости в использовании сложных понятий, которые нужны для описания и объяснения человеческого поведения, так как он вообще не совершает подобных действий. При этом для описания и объяснения поведения существа со сложными, но непостижимыми когнитивными навыками, таких понятий будет недостаточно.

Можно привести массу доводов против подобных обозначений. Это, разумеется, примитивно — выражать уровень осознанности простой скалярной величиной. Более детальный подход позволил бы лучше показать, что у разных животных присутствуют разные когнитивные способности. Более того, остается открытым вопрос о том, насколько каждая из этих способностей обогащает приобретаемый опыт. То же самое можно сказать и о распределении по шкале H. Однако график H–C следует рассматривать как пространство для предварительных экспериментальных набросков, лишь частично отражающих разнообразие возможных вариаций, это стимул к дальнейшему обсуждению, а не строгая теоретическая выкладка. Кроме того, графики не представляют собой попытку проиллюстрировать положение вещей относительно осознанности различных видов. Они, скорее, являются умозрительной попыткой предвосхитить формирование общепринятой позиции, к которой мы могли бы прийти путем совместных наблюдений, взаимодействия, обсуждений, дебатов и изучения внутренних механизмов их поведения.

Давайте поместим на график несколько продуктов современной робототехники и ИИ. Среди них Roomba (домашний робот-пылесос), BigDog (четвероногий робот с жизнеподобной моторикой) и AlphaGo (программа, созданная в Google DeepMind, которая в 2016 году обыграла Ли Седоля, чемпиона по го). Все они находятся в самом начале шкалы C. Безусловно, ни одна машина, робот или компьютерная программа из ныне существующих вовсе не имеет никакой осознанности.

С другой стороны, по схожести с человеком эти трое превосходят кирпич. BigDog находится сразу же под Roomba, а вместе они расположились прямиком над AlphaGo. BigDog управляется человеком. Однако он умеет адаптироваться к неровной или скользкой поверхности и восстанавливать равновесие, если его, к примеру, толкнуть ногой. При описании такого поведения можно использовать фразы вроде «он старается не падать» или «он действительно пытается стоять прямо». Это говорит о том, что мы относимся к BigDog, как это называет Дэниел Деннет, c «позиции действия», приписывая наблюдаемому объекту убеждения, желания и намерения, так как это позволяет проще описать и объяснить его поведение.

В отличие от BigDog, Roomba представляет собой полностью автономного робота, который может работать без вмешательства человека в течение длительного времени. С одной стороны, реакция BigDog на толчок ногой выглядит очень жизнеподобно, но если хоть немного разобраться в его внутреннем устройстве, это развеет всякое желание воспринимать его, как преодолевающее невзгоды живое существо. То же справедливо и для Roomba. Тем не менее, поведение Roomba в целом является более сложным, поскольку у него есть основная миссия, а именно держать пол в чистоте. На фоне подобной миссии, позиция действия может выражаться сложнее, побуждая приписывать объекту связанные между собой субъективное восприятие, осознанные реакции, убеждения, желания и намерения. Мы не просто говорим: «он сворачивает, чтобы не врезаться в ножку стула», но также можем сказать: «он возвращется на док-станцию, потому что его батарея почти разрядилась», или: «он возвращается к этому участку ковра, потому что думает, что там действительно очень грязно».

AlphaGo набирает меньше всего очков, но вовсе не из-за отсутствия каких-либо когнитивных способностей. Они, на самом деле, весьма впечатляют, хоть и проявляются в очень узкой области. Отчасти это связано с тем, что поведение AlphaGo едва ли можно сравнить с поведением человека или животного. В отличие от BigDog и Roomba он не имеет реального тела или его виртуального аналога. Он никак не воспринимает мир и не передвигается в нем, а весь его поведенческий спектр выражен действиями на доске для игры в го. Тем не менее, и его поведение можно воспринимать с позиции действия. Один из основателей DeepMind Демис Хассабис опубликовал в твиттере три сообщения, описывающие единственную игру, которую AlphaGo проиграл Седолю в серии из пяти игр. В первом сообщении он написал: «#AlphaGo думал, что прекрасно справляется, но сбился на 87 ходу». Потом он написал: «Ошибка произошла еще на 79 ходу, но #AlphaGo понял это только на 87». Вскоре после этого он дополнил: «Когда я говорю „думал“ и „понял“, я имею ввиду выходное значение сети #AlphaGo. На 79 ходу оно равнялось 70%, а на 87 ходу резко упало».

Для тех, кто не знаком с внутренним устройством AlphaGo, первые два твита были бы намного более понятны, чем точное с научной точки зрения высказывание в третьем. Однако это лишь поверхностное использование интенциональной установки, которое, в конце концов, плохо помогает понять AlphaGo. Он не взаимодействует с миром пространственно-временных расположенных объектов, и его поведение не имеет смысла характеризовать с точки зрения взаимосвязи восприятия, убеждения, желания, намерения и действия.

С другой стороны, он применяет внушительный набор когнитивных навыков в микромире го. Он учится на своем опыте, собранном через самостоятельную игру и из записей человеческих игр. Она может провести поиск по мириадам возможных игр, чтобы определить следующий ход. Его возможность эффективно реагировать на неуловимые узоры на доске повторяет то, что часто называют интуицией у игроков-людей. И в одном потрясающем ходе во время матча с Седолем он продемонстрировала то, что мы можем назвать креативностью. Он вышел на пятую линию, использовав прием, известный как удар плечом, во время которого камень располагают по диагонали от камня противника. Комментируя матч, чемпион Европы по го Фань Хуэй отметил: «Это не человеческий ход. Я никогда не видел, чтобы человек сделал этот ход. Так красиво.» По собственной оценке AlphaGo, шанс того, что человек воспользовался бы этой тактикой был 1 к 10 000, и это противоречило мудрости, накопленной веками. Тем не менее, этот ход сыграл центральную роль в его победе.

То, что мы видим в AlphaGo, — пример того, что мы можем назвать не «экзотикой сознания», а скорее видом «экзотики когнитивности». С помощью процесса, в значительной степени неясного для человека, он может достичь цели, которая могла считаться вне его возможностей. Мастерство AlphaGo ограничивается го, и мы далеки от общего искусственного интеллекта. Однако, это естественно — задумываться о возможных формах, которые примет общий искусственный интеллект, ― и о том, как они могут быть распределены по диапазону возможных сознаний.

До сих пор мы рассматривали подобие человека и способность к сознанию различных реальных сущностей, естественных и искусственных. Но ниже, на графике 2, несколько гипотетических существ помещены на плоскости H–С. Очевидно, это сделано очень гипотетически. Только через настоящую встречу с незнакомым существом можно на самом деле выявить наше отношение к нему и то, как наш язык будет адаптироваться и расширяться, чтобы разместить его в себе. Тем не менее, руководствуясь разумом, воображение может рассказать нам что-то о различных видах существ, которые могут находиться в диапазоне возможных сознаний.


График 2. Экзотика на плоскости H–C

Рассмотрим некоторые возможные формы общего искусственного интеллекта (ОИИ) человеческого уровня, например, ИИ, с точно такой же обработкой данных в нейронной сети, как в человеческом мозге. Этого можно достичь копированием мозга определенного человека – отсканировав его структуру в наноскопических деталях, воспроизводя физическое поведение в искусственном субстрате и поместив результат в человекоподобную форму. Этот процесс, известный как «полномасштабное имитационное моделирование головного мозга», в принципе, даст что-то, чье поведение будет неотличимо от оригинала. То есть, будучи абсолютно человекоподобным, оно будет примером общего искусственного интеллекта с 10 баллами по оси H. Альтернативно, вместо того, чтобы копировать определенного человека, искусственный мозг может быть создан так, чтобы соответствовать статистическому описанию центральной нервной системы типичного новорожденного. Должным образом облеченный в плоть и воспитанный как человеческий ребенок, в результате он будет другим совершенным человекоподобным ОИИ.

Будет ли у этих созданий сознание? Или скорее, будем ли мы относится к ним так же, как мы относимся к нашим сознательным существам-собратьям, или описывать их теми же словами? Я думаю, что да. С какими бы предубеждениями мы не начинали, их совершенное человекоподобное поведение вскоре приведет к тому, что мы будем ощущать чувство товарищества. То есть человекоподобный сознательный ОИИ точно является возможным, и он занял бы то же место на плоскости H–C, что и человек.

Но, как мы уже отметили, нет причины полагать, что копирование биологического мозга – это единственный способ создания общего искусственного интеллекта человеческого уровня. Возможно, совершенно другая схема построения может воплотить тот же результат. (Ава из фильма «Из машины» является фантастическим примером.) Возможно, можно было бы достичь человеческого уровня интеллекта, используя некоторую комбинацию поисковых методов грубой силы и машинного обучения с большими данными, возможно использующую чувства и вычислительные способности, недоступные для человека.

Такие возможности выдвигают несколько новых видов существ на плоскость H–C. Первый из них ― человекоподобный искусственный интеллект-зомби в правом левом углу. Это существо не только обладает интеллектом человеческого уровня, но и очень человекоподобно в своем поведении, его можно описать и объяснить, используя тот же язык, которым мы описываем человеческое поведение. Однако у него нет самосознания. В терминах Нагеля, быть этой вещью не похоже ни на что. В этом смысле, это феноменологический зомби.

А теперь стоит спросить себя, можем ли мы на самом деле представить себе такое? Разумеется, если бы его поведение было бы неотличимо от человеческого, мы бы начали обращаться с ним как друг с другом. Разумеется, по мере взаимодействия с подобными существами, наше отношение к ним перешло бы в товарищество, мы бы начали воспринимать их как дружественных разумных созданий и обращаться с ними соответственно. Но предположите, что они лишь подражают поведению, свойственному человеку. С помощью разработок будущего они поняли, как убедительно вести себя подобно человеку в разнообразных ситуациях. И если такой ОИИ говорит, что ему грустно, это не из-за того, что дела идут не так, как ему хотелось бы, а скорее потому, что существо знает, что в подобной ситуации надо говорить «мне грустно». От этого наше отношение к нему изменится? Я полагаю, что да, что мы будем отрицать его разумность, что сдвигает его влево по оси C.



Какой вид существ может быть создан, если кто-то ― или, скорее всего, какая-то корпорация, организация или правительство ― решил создать искусственного преемника человечества, существо превосходящее homo sapiens? Идеалисты, заблуждающиеся или просто сумасшедшие могут полагать, что будущее поколение общего искусственного интеллекта может обладать интеллектуальными способностями, намного превосходящими человеческие. Более того, освобожденные от ограничений биологии, такие существа могут совершать длинные путешествия в межзвездное пространство, которые люди, с их хрупкими, недолговечными телами, никогда бы не пережили. Тогда ИИ отправились бы изучать чудеса Вселенной вблизи. Из-за расстояний и сроков целью этих ИИ не было бы передать информацию своим создателям. Скорее, они бы посетили бы звезды от лица человечества. Давайте назовем эти гипотетические существа «детьми» нашего разума, термином взятым у австрийского робототехника Ханса Моравека.

Итак, где бы оказались эти порождения разума на плоскости H–C? Поскольку дома никто не ждет ответа, посылать в космос артефакт, не обладающий сознательной способность испытать свою находку, не имеет смысла. Поэтому создатели наших порождений разума возможно выбрали бы биологически вдохновленную мозгоподобную структуру, чтобы гарантировать, что по оси С у них будет как минимум столько же баллов, как у людей. В действительности, нам стоит рассмотреть возможность того, что богатство их сознательного опыта будет превосходить человеческое, что у них будет какая-то формасверхсознания. Такое может быть, к примеру, если бы у них был набор сенсоров с намного большей пропускной способностью, чем у людей, или если бы они могли понимать сложные математические истины, которые находятся за пределами человеческого понимания, или если бы они могли удерживать в голове широкую сеть ассоциаций, в то время как мы, люди, ограничены лишь несколькими.

Что же насчет оси H, проект на основе мозга также приведет к человекоподобию ИИ. Однако людям скорее всего будет сложно понимать их сверхразум. Он скорее всего получит 6 или 7. Короче говоря, наше сверхразумное, сверхсознательное потомство, искусственный интеллект, будет находиться где-то в правой части графика, несколько выше середины оси H.

Что насчет общего искусственного интеллекта, не схожего с мозгом? ОИИ этого типа являются новыми точками на плоскости, расположенными ниже по оси Ч. Это действительно экзотичные ОИИ, то есть противоположные человекоподобным. Поведение экзотичных существ не может быть понято – или, по крайней мере, понято целиком – с помощью терминов, которые мы обычно используем, чтобы разобраться в человеческом поведении. Такое существо может демонстрировать поведение, которое одновременно сложно и эффективно в достижении целей в самых разнообразных средах и обстоятельствах. Однако людям может быть сложно или вовсе невозможно выяснить, как он достигает своих целей или даже точно различить, что это за цели. Приходит на ум загадочное замечание Витгенштейна о том, что «если бы лев мог говорить, мы бы его не поняли». Но лев ― это сравнительно знакомое существо, и нам не очень сложно понять многие части его жизни. Лев живет в том же физическом мире, что и мы, и он постигает мир, используя похожий набор чувств. Лев ест, спаривается, спит и испражняется. У нас много общего. Гипотеза об экзотическом ОИИ намного более чуждая.

Самым экзотичным видом существа будет тот, который совершенно непостижим, который будет вне пределов досягаемости антропологии. Человеческая культура, конечно, очень разнообразная. Соседи из одной деревни зачастую с трудом понимают привычки, цели и предпочтения друг друга. Тем не менее, благодаря тщательному наблюдению и взаимодействию, антропологи могут разобраться в этом разнообразии, делая обычаи «экзотических» культур ― то есть, сильно отличающихся от собственной ― понятными для себя. Но, конечно, у нас еще больше общего с людьми из других культур, чем с львом. Наша общая человечность делает задачу антрополога легко решаемой. Вид непостижимой сущности, которую мы пытаемся представить, в целом намного более экзотичен. Даже если бы мы могли сконструировать встречу с ней и различить поведение, кажущееся целенаправленным, самая опытная команда антропологов будет испытывать трудности, предугадывая ее цели и то, как они выполняются.

Как такое существо могло появиться? В конце концов, если оно было создано людьми, то почему они не могли его понять? Существует несколько способов создания ИИ, при которых оно не будет понято своими создателями. Мы уже видели, что AlphaGo способна удивить и программистов, и своих оппонентов. Более сильный ОИИ может найти более неожиданные способы достижения своих целей. Говоря радикальнее, ИИ, являющийся результатом искусственной эволюции или самомодификации может обзавестись целями, сильно отличающимися от замысла программистов. Более того, поскольку мы допускаем возможность многообразных внеземных разумов, диапазон возможных сознаний может включать не только этих существ, но и любую форму искусственного интеллекта, которую они создадут. Какое бы понимание мы не имели о сознании существ из другого мира, мира, который может очень отличаться от нашего, наше понимание эволюционировавшего или самомодифицировавшегося ИИ, ядром которого является система, разработанная, чтобы служить уже чуждым нам идеям этого создания, скорее всего, будет еще более хлипким.

Экзотичный ИИ, очевидно, получит меньший балл по оси H. Но что насчет оси C? Какой может быть его способность к сознанию? Или, поставив вопрос по-другому, можем ли мы сконструировать встречу с такой штукой, посредством которой, после достаточного наблюдения и взаимодействия, мы могли бы определить наше отношение к ней? Если да, то каким было бы это отношение? Было бы это таким отношением, какое мы приобретаем к сознательному существу?

Теперь мы подошли к чему-то вроде философского тупика. Потому что предложенное определение непостижимости ставит самый экзотичный вид ИИ вне досягаемости антропологии. И это, кажется, исключает встречу, которая бы потребовалась для того, чтобы определиться с отношением к ИИ, по крайней мере, согласно недуалистической позиции по отношению к субъективности, вдохновленной Витгенштейном.

Возможно ли согласовать этот взгляд на сознание с существованием экзотики сознания? Вспомним мысленный эксперимент с белой коробкой. Заключенное в таинственную коробку, доставленную в нашу лабораторию, с непостижимо сложной, но полностью доступной внутренней динамикой, это может быть именно тем видом непостижимого ИИ, о котором мы говорим. Возможно, мы сможем сконструировать встречу с системой или какой-то ее частью, открывая поведение, которое кажется намеренным, но быть не в состоянии понять, какой именно была причина. Встреча с внеземным разумом, скорее всего, вызовет похожее затруднение.

Роман «Солярис» (1961) Станислава Лема представляет убедительный фантастический пример. Герои романа — команда ученых, совершающая полет по орбите планеты, покрытой океаном, который оказывается единым, громадным, разумным организмом. Они пытаются изучить это инопланетное существо, оно, кажется, тоже их зондирует. Оно делает это, создавая человекоподобные аватары из их памяти и бессознательности, которые посещают их на борту корабля с тревожными психологическими эффектами. Со своей стороны, ученые так и не понимают инопланетный разум этого организма: «Его волнистая поверхность могла давать начало самым различным, ни на что земное не похожим формам, причем цель ― приспособительная, познавательная или какая-либо иная ― этих иногда весьма бурных извержений плазменной массы была полнейшей загадкой».

Представьте, вы встретили такую экзотичную динамичную систему, как ИИ белой коробки или океанический организм из «Соляриса». Вам хочется узнать, есть ли у него сознание. Естественно считать, что для любого создания, живого или искусственного, существует ответ на этот вопрос, это факт, даже если этот ответ обязательно скрыт от нас, как представляется в двух этих гипотетических случаях. С другой стороны, если мы используем подход Витгенштейна к этой проблеме, то ошибаемся, когда так думаем. Некоторые из аспектов реальности могут быть эмпирически недоступны для нас, но ничего не спрятано со точки зрения метафизики.

Поскольку эти две точки зрения непримиримы, сперва кажется, что у нас только два варианта. Либо:
а) сохранить концепцию экзотики сознания, но отказаться от Витгенштейна и признать, что есть метафизически отделенная сфера субъективности. Это будет возвращением к двойственности разума и тела и дихотомии сложной проблемы/легкой проблемы;

Или
б) сохранить подход к сознанию, основанный на Витгенштейне, настаивая, что «ничто не спрятано», но отвергнуть саму идею экзотики сознания. Как следствие, нам придется отказаться от проекта по отображению диапазона возможных сознаний на плоскости Н-С.

Однако существует и третий вариант:
с) оставить за собой и концепцию «экзотического мышления», и философию Витгенштейна, допуская, что наш язык и наше поведение приспособятся к взаимодействию с экзотическими формами интеллекта, изменившись непредсказуемым образом.

До этого мы допускали, что сознание это единая, неделимая концепция, к которой можно применить линейную систему измерения способности. Такой маневр удобен во многих сферах научного изыскания. Для рационального расходования природных ресурсов экологи могут сжать разнообразие биологического мира в одну систему статистики, абстрагируясь от различий между видами, сезонными изменениями, территориальным распределением и так далее. В экономике «индекс человеческого развития» эффективно обобщает аспекты образовательной системы в стране, ее сферу здравоохранения, производительность и прочее, игнорируя многочисленные детали жизни отдельных людей. Однако для некоторых целей необходим более конкретизированный подход. При рассмотрении вблизи, концепция сознания охватывает множество различных явлений, включая восприятие мира (или первичное сознание), самосознание (или сознание высокого порядка), способность к проявлению эмоций и эмпатии, а также когнитивную интеграцию (когда все ресурсы мозга направляются на решение ситуации в настоящем времени).

В нормальном взрослом человеке эти аспекты сознания соединены вместе. Но в более экзотической сущности они могут оказаться разрозненными. У большинства нечеловекоподобных животных мы наблюдаем восприятие мира без самосознания и способность страдать без способности к эмпатии. Искусственный же интеллект человеческого уровня может демонстрировать восприятие мира и самосознание без эмоциональности и эмпатии. Если такие сущности станут для нас знакомыми, наш язык может к ним приспособиться. Неделимые концепции, такие как сознание, могут разбиться на новые виды, с ними возникнут и другие способы обсуждения поведения искусственного интеллекта.

Если говорить более радикально, мы сможем открыть абсолютно новые категории поведения или познания, слабо ассоциирующиеся с устаревшим пониманием сознания. Иными словами, пока мы будем собирать крупицы нашего сегодняшнего языка, чтобы подобрать слова для описания крайне экзотических сущностей со сложным поведением, другие значимые части нашего языка могут быть переделаны, дополнены или вытеснены всецело новым дискурсом, наполненным при помощи компьютерных наук сравнительным изучением интеллекта, поведенческой психологией и естественной эволюцией человеческого языка. В этих условиях за термином вроде «способности к сознанию» может эффективно закрепиться обобщенная статистика для сущностей, чье поведение не поддается объяснению в сегодняшних терминах, но которые могут существовать в рамках нового концептуального каркаса, где сейчас знакомое нам понятие сознания, хоть и разделившееся на части и искаженном, остается доступным для восприятия.

Что, в таком случае, подразумевается для плоскости H–C? На графике 2, что расположен выше, обозначена точка, которая находится на том же уровне, что и человек по оси С, но достаточно экзотична, чтобы на оси H лежать в пределах применимости любой из форм сознания. Здесь будут находиться сущности, внеземные и искусственные, которые обладают человекоподобным разумом, но чье поведение мало чем похоже на человеческое.

Тем не менее, при достаточно разнообразном взаимодействии с этими сущностями или при наблюдении за ними, мы можем распознать в них таких же разумных существ, хоть нам и придется подстроить свой язык для объяснения их необычности. У одной из таких сущностей, экзотического разумного ОИИ, есть аналог в левом конце плоскости H–C — экзотичный зомби-подобный ОИИ. Это ИИ на уровне человеческого разума, поведение которого также отличается от человеческого, но мы не можем увидеть в нем разум, сколько бы не взаимодействовали с ним, сколько бы за ним не наблюдали. Эти две точки на графике — экзотический, разумный интеллект на уровне человеческого и экзотический, зомби-подобный интеллект на уровне человеческого — определяют два нижних угла квадрата, правый верхний угол которого — сами люди, а левый верхний — человекоподобные зомби. Этот квадрат иллюстрирует безвыходные, трехсторонние отношения между интеллектjv на уровне человека, человекоподобием и сознанием.

Сейчас мы можем определить несколько пересекающихся участков на нашем «зародышевом» диапазоне сознаний. Они изображены на графике 3 внизу. Допуская спорное утверждение, что если сущность в принципе разумна, то ее способность к сознанию будет коррелировать с ее способностью к познанию, мы расположим интеллект на уровне человеческого в двух фиолетовых участках — один с левого края графика, другой — на уровне человека на оси С. Экзотический, разумный ОИИ располагается внизу второго участка, а также в левом конце оранжевого участка экзотического разума. Этот участок растягивается вправо по оси С за пределы уровня человека, потому что включает в себя экзотических существ, которые могут быть инопланетными или искусственными (или и тем, и другим) и обладать сверхчеловеческим разумом и сверхчеловеческой способностью к сознанию. «Дети нашего разума» — это менее экзотические формы возможных сверхинтеллектуальных, сверхразумных созданий. Однако экзотический разум это, вероятно, наиболее интересный из представленных в диапазоне сознаний, так как располагается около границы того, что мы бы могли смело назвать сознанием, и находится на барьере, за которым любое комплексное явление для нас непостижимо.


График 3. Известные участки плоскости H–C

Эта граница обозначает край участка, оставленного пустым и названного «пустотой непостижимости». Он пуст потому, что, как замечает Витгенштейн, мы называем разумными лишь человеческих существ и тех, кто ведет себя как человек. Мы растянули понятие поведения, подобного человеческому, до предела прочности (возможно, растянули дальше, чем сам Витгенштейн считал необходимым). Приближаясь к этой точке, я предположил, что ткань сегодняшнего языка сознания начинает трескаться. За ее пределами мы обнаружим лишь сущности, для описания которых наш нынешний язык применить невозможно. Поскольку они демонстрируют комплексное поведение, мы обязаны использовать другие термины для их описания и объяснения, так что сейчас эти сущности не располагаются дальше кирпича по оси С. Таким образом, точек на графике для нижней его полосы нет вообще. К нему не относятся сущности непостижимые, но которые могут — насколько нам известно — обладать разумом. Ибо считая так, мы предполагаем, что есть такие аспекты субъективности непостижимо экзотических сущностей, которые навсегда закрыты для нашего понимания. Мы можем избежать дуализма, которое предполагает эта точка зрения, принимая, что этот участок просто пуст.

Пустота непостижимости завершает мою условную зарисовку диапазона мышлений. Но какой урок мы извлекли из этого несколько причудливого занятия? Вероятность того, что люди напрямую встретятся с внеземным разумом, мала. Шанс поймать сигнал из космоса, отправленный разумными существами хоть и выше, но все равно невелик. Однако ситуация с искусственным интеллектом иная. Мы вполне можем создать автономный, искусственный интеллект подобный человеческому в ближайшие десятилетия. Если это случится, вопрос, разумны ли наши изобретения и в каком плане они разумны, станет этически значимым. Но даже если никакой из этих научно-фантастических сценариев не сбудется, поместить человеческий разум на большем пространстве представляется мне одним из самых глубоких философских проектов, который только можно себе представить. Но им пренебрегают. Без Атлантов, на плечи которых можно встать, самое большее, на что мы способны — пустить пару вспышек в бесконечной темноте.


Автор:
Мюррэй Шэнэхен,
профессор когнитивной робототехники в Имперском Колледже Лондона и
лидер Центра Будущего Интеллекта им. Леверхюльма.

Перевели: Юрий Гаевский, Оля Кузнецова, Александр Поздеев, Никита Пинчук и Наташа Очкова.
Редактировали: Сергей Разумов и Артём Слободчиков.
Источник