№27 Наш человек в Машине

Можно и зайца научить курить. Можно и медведя научить плясать. Можно и лошадь научить кланяться. Но можно ли их всех вместе или раздельно взятых обучить даже не теории относительности, а хотя бы Ньютоновской механике?! Людвиг Вигтенштейн как-то задался следующим вопросом: мы говорим, что собака боится наказания от хозяина (в настоящем времени), почему нельзя сказать, что собака боится, что ее накажут завтра?! Ответ обычно формулируют в терминах абстрактного мышления – животные на него не способны. На БГБ-шном языке их мир ментальных моделей против нашего резко (аппаратно) ограничен. А не может такого быть, что и у нас, гордых обладателей двух ног при полном отсутствии перьев, тоже есть какой-то эпистемологический потолок, выше которого без третьего глаза только весь лоб обобьешь?! А не может такого быть, что осмысление взаимоотношений души и тела как раз и расположено за этим пределом?! Именно такую модель (под названием мистерианизм) как-то обрел (по собственному признанию при помощи глубокого инсайта) английский философ (проживающий в Америке) Колин МакДжинн: «Я утверждаю, что вековечная проблема вокруг сознания и его отношения к телу свидетельствует о том, что мы находимся на границе того, что мы в принципе в состоянии понять… это когнитивное невезение, что мы не можем решить психофизиологическую проблему; наш разум не сконструирован нужным образом». Скептицизм – знак времен. Его последняя большая волна накрыла человечество непосредственно перед научной революцией семнадцатого века. Но насколько обоснован подобный пессимизм? Неужели указы правящей ортодоксальной партии по этой проблеме так уж безнадежно плохи?

На первый взгляд состояние дел отнюдь не такое критическое. Любители квалий, конечно же, продолжают втирать пыль своей критики в модные модельные очки. Однако вовсе не обязательно при этом страдать от желания на нее чихать. Каково быть летучей мышью волнует сейчас разве что одного Томаса Нагеля, да и тот уже совсем старенький. Умная Маша тоже усмирена. Найден почти консенсус. Пусть она что-то узнает, выйдя из черно-белой комнаты, это будет всего лишь новый «способ презентации» известных ей фактов. Отсюда не следуют никакие онтологические выводы об ошибочности физикализма-материализма (в дальнейшем ФМ). Еретик Джексон (автор этого аргумента «от знаний») публично отрекся от своих взглядов. Философия не имеет права диктовать науке, чем ей заниматься. Космические фантазии Неда Блока недостойны даже упоминания в серьезной прессе. Что остается? Разве что жалкие попытки Дэвида Чалмерса возродить давно буксующую программу панпсихизма? Разве что пресловутый «провал в объяснениях»? Ну да, мы не знаем, как из объективных физических процессов возникают субъективные ощущения. Но разве у нас нет более насущных задач? Например, выращивание искусственного интеллекта, который, конечно же, легко расщелкает доселе неразрешенные естественным парадоксы. И в самом деле серьезных оснований для беспокойства у ФМ-моделей на горизонте на наблюдается. Разве что насосы интуиции, которые все еще исправно работают у многих людей. Они продолжают им накачивать мозги – из ИИ ничего, кроме зомби не получится. И разве что не до конца осознанное «чувство лжи». Это именно оно дает аллергическую реакцию на пыль, заметенную под ковер. Это именно оно вызвало у МакДжинна желание вызвать такого джинна, который бы помог людям разгрести свой ментальный мусор. Не поможет ли с этим делом пресловутая Теория Моделей (ТМ)?!

Это будет, конечно же, очередной спекулятивный мыслительный эксперимент. Итак, давайте представим себе Живые Модели (ЖМ). Где? Ну конечно же, в Мире Моделей (ММ), царство которых мы еще можем ради двусмысленных скабрезных каламбуров сегодня назвать Жизнью (Ж). А теперь давайте представим себе другое государство, под названием Машина (М). Там все устроено принципиально не как у нормальных людей, а по-другому, по-китайски. Однако оно тоже работает в аналогичной программной среде – т.е. при помощи ЖМ. Некоторые ЖМ живее других. Те, которые рода Ж, управляют жизнью тех, которые рода М. Помимо этого они, занимаясь этим, получают те самые неуловимые «сырые ощущения», которые столь озадачивают философов. И заинтересовали некоторых Ж модели М. И образовали они Центр по их изучению и направили в их самые недра роботизированных Зондов-шпионов. На манер компьютерного трояна или вируса. Но вот беда – в этом Машинном пекле все устройства сгорали зараз. Не успевали даже выйти на связь, как их уже отлавливали и уничтожали. После долгих проб и ошибок самая последняя модель Штирлиц-007 смогла все-таки выжить и стать резидентом и штандартенфюрером. И потекли мгновения за мгновениями. И начала она плодиться и эволюционировать. Что характерно – во всем многочисленном потомстве размножалась и та самая рация, при помощи которой их праотец некогда вошел в первый контакт. В одну сторону по ней донесения транслируются (называются квалии), причем полностью автоматически. С их помощью Центр может наблюдать за окружающей средой. В обратную же сторону отправляются ЦУ (оценки и волеизъявление) — на исполнение. Со временем поток информации настолько вырос, что для его эффективной обработки пришлось устроить локальную фильтрацию и обработку. Нерелевантные данные теперь могли игнорироваться. Помимо этого, по истечении миллиардов лет зонды позабыли о своей предыстории и перестали беспрекословно исполнять полученные команды – короче полностью развинтились. А теперь давайте вообразим себе далекого потомка Штирлица-007 по имени МаСя. И захотелось ей почему-то узнать, как устроен ее приемо-передатчик. И изучила она абсолютно все физические законы мира М без исключения. И разобралась она полностью с той каузальной цепочкой, по которой из иероглифов ее мира творились символы сообщений в давно забытый мир ММ. Вопрос – узнает ли она что-то новое о них, если съездит на каникулы на родину предков?!

Что в сей фантастической истории существенно, а что сказка? Шпионский сюжет я вполне мог бы заменить на виртуальную странную игру, которую особи Ж организовали себе на мощностях М. Если я этого не делаю, то по причине тревожащего меня усиления модели симуляционизма – менталки откровенно теистических кровей. Важно же то, что ответ на поставленный вопрос однозначен. МаСя узнает много нового и интересного. Например, как расшифровывать сообщения, что они означают на своем языке, какие именно документы подошьют в какие именно папки и т.д. Еще — акцент здесь поставлен вовсе не на опровержении физикализма (убежден, что без эмпирики это невозможно), а на предложении сценария для антифизикализма (АФМ). В дальнейшем я постараюсь защитить адекватность предложенной мной метафорической модели. Примерно тем же пытался заниматься Дэвид Чалмерс. В чем принципиальное отличие ТМ от его модели в частности и дуализма в целом? Прежде всего в том, что это вообще не дуализм (но это тоже АФМ). Напомню, наши ЖМ (всех родов) в переводе на русский представляют собой просто в цикле исполняемые вычислительные процессы. Граница между Ж и М конечно существует, но она легко проходима известными программными средствами. Это все равно как два компьютера, разве что на них запущены разные операционные системы. Для этого, конечно, приходится отрицать материальность М, но туда ей и последний путь – по другим соображениям. Каковы тогда взаимоотношения между двумя мирами? Ж скачет на М, как софт на харде. Да, это означает Функционализм, но с Большой буквы. Аргумент от «зомби» против такого Функционализма не работает по той простой причине, что тот отрицает идентичность М-части человека его полному ЖМ-образу. Другими словами, ТМ представляет себе живых существ как комбинацию тех самых вычислительных процессов, параллельно запущенных и происходящих сразу в двух мирах – М и Ж. Что же такое «сознание» в столь экзотической трактовке? Живая часть общего Жизненно-Машинного конгломерата. Другое следствие из вышесказанного – роботу не увидеть квалий как своих моделей. «Видеть» в этом смысле вообще означает — исполнить длительные предварительные вычисления в М-мире и забросить их результаты в локальную переменную удаленного процесса.

Описанная мной метафорическая модель может ввести в заблуждение относительно расстояния промеж мирами Ж и М. Только с одной стороны они кажутся космически удаленными друг от друга. Интерфейс между ними организуется вовсе не посредством дистанционного управления. С их сознательной стороны они необыкновенно близки. Мы привыкли к тому, что между физическими телами всегда существует пространство. Но у ЖМ это отнюдь не так – ведь выход любой программы можно подать на вход любой другой, если только знать правильный адрес. Почему мы тогда не замечаем этих порочащих честное имя физикализма связей? Все дело в том, что мы находимся в весьма интересном эпистемологическом положении внутри машины М. Из него нами регистрируются только такие ее части, в которые могут проникнуть фотончики. А их пускают далеко не во все приличные места. Это соображение защищает ТМ от типичных обвинений в сторону дуалистических моделей. Наши Ж и М столь же тесно переплетены друг с другом, как и в материализме. В отличие от последнего у ТМ сознание – вовсе не эпифеномен непонятного предназначения. Ж — интегральная часть М, которая ей насущно необходима для нормального функционирования. Эпилептики во время припадков могут продолжать играть на пианино или управлять автомобилем. Из их поведения тем не менее исчезает гибкость, креативность. Таким образом и случайно возникшая болотная бы-копия живого человека, вероятно, будет жизнеспособна, но не более того. Только один анти-дуалистический контраргумент сохраняет свою силу против ТМ – от сохранения энергии. Предположим, что у живых существ где-то открыты форточки, через которые поддувает из ММ. Неужели на передачу информации туда-сюда ничего не будет расходоваться?! Вероятно, будет, хотя не исключено, что очень мало. В любом случае это нарушает законы природы. Это мощный довод, но ТМ отправляет его бумерангом назад примерно следующим образом. Законы благоразумным налогоплательщикам, конечно же, надо исполнять. Однако по мнению ТМ, их следует перенести из физикалистской Машины в Большой Мир. Энергетический баланс каждого нейрона с высокой точностью еще никто не составлял. Именно по признаку гипотетического несоответствия их энергетического дебита и кредита мы сможем опознать многочисленные шлюзы в лучший мир. Столь рискованным эмпирическим предсказанием ТМ переходит в разряд фальсифицируемых научных гипотез.

Откуда же тогда у нас возникает пресловутый «провал в объяснениях»? И удалось ли нам его заткнуть при помощи ТМ? Я снова обращусь к творчеству Колина МакДжинна: «Мы пытаемся раскрутить гайки у сознания инструментами, разработанными для перцепции физического мира … неудивительно, что эти инструменты не работают. Они формируют нашу концепцию мозга, но по этой самой причине они делают эту концепцию неадекватной для понимания того, как мозг производит сознание». Обратите внимание на то, что первичными атомами наших познаний были как раз наши субъективные ощущения. Сравнение оных между многими людьми превратили их в объективные понятия, из которых много позже произросли наши ментальные модели, знания. Постарайтесь объяснить смысл буквы «с» при помощи слов «синхрофазотрон», «симплекс» и «синхроничность». Попытайтесь умножением 123456789, 987654321 и 135797531 получить цифру 1. Попробуйте из иероглифов сложить «мама мыла раму». Гигантская пирамида ментального ФМ-мира полностью перевернута и балансирует на самом острие. Только объявив феномены сознания (т.е. модели) первичными кубиками бытия, нам удастся придать устойчивость всему сооружению. Проблема сознания становится тяжелой всего лишь от того, что мы даем ему шпионский статус. Его пытаются изгнать из нашего мира, и перехваченные от него донесения просматриваются через физикалистские модельные очки. ТМ не претендует на то, что ей удалось поставить мат материализму. Но она не согласна и объявить пат, предложенный МакДжинном. Одними мыслительными экспериментами успеха не добьешься – победа в конце каузальных цепочек, проходящих меж двух миров. А пока ТМ занимается их локализацией, она просто отказывается воспринимать донесения нашего человека в Машине как провал. Она просто предлагает такую программу исследований, которая может заполнить провал в наших знаниях о сознании…

Ну вот никак не получается у меня излагать материал последовательно. Начали мы с логики, а кончили за упокой ФМ. Хорошо закончить – это не закончить, это начать! Мир моделей философии покоится на трех китах. Столкновения с первым из них мы благополучно избежали. Второй — прямо по курсу. Знаете ли Вы, что такое знания? Скоро узнаем – с Блогом Георгия Борского.

Ответьте на пару вопросов
В чем сила физикализма?
Можно и зайца научить курить. Можно и медведя научить плясать. Можно и лошадь научить кланяться. Но можно ли их всех вместе или раздельно взятых обучить даже не теории относительности, а хотя бы Ньютоновской механике?! Людвиг Вигтенштейн как-то задался следующим вопросом: мы говорим, что собака боится наказания от хозяина (в настоящем времени), почему нельзя сказать, что собака боится, что ее накажут завтра?!

№26 Два мира – три модели

Мир миру рознь. Когда в моем тексте встречается некая странность, например, используется потешная комбинация слов или что-то как-то выделено, то можете быть уверены, это — неспроста. В данном случае в слогане самой первой строчки этой статьи самый первый Мир отличается от второго. Неочевидно это потому, что его первая буква совпала с началом предложения. Один Мир – Большой, другой мир – маленький. Что это такое и в чем состоит их отличие? Дело в том, что саккадические движения ментальных глаз БГБ несколько неожиданно для меня самого привели нас на территорию метафизики. Я должен сотворить хотя бы блиц-введение в эту важную составляющую отрасль философии. Чем она занимается? Аристотель, которого можно считать ее отцом-основателем (по крайней мере, именно его сочинение дало сей дисциплине ее название), сказал бы, что предметом ее изучения является существование. Чего? В том-то и дело, что ничего – существование само по себе, рассматриваемое как существование. Существование и точка. Или даже три точки – вот так… Не думаю, что это определение Вам придется по душе. Предложу свое. Метафизика изучает Большой Мир, который спрятан за-физикой. Т.е. тот, что ни глазом объять, ни в формулах описать. Разве это Вас не вдохновляет? Моделям вообще рекомендуется иметь какую-то загадку, поскольку именно тогда мы обретаем желание с ними познакомиться поближе. Но ведь и физики исследуют то, чего никто никогда живьем не наблюдал – например, субатомные микрочастицы? Отличие в том, что они строят свои модели по тем или иным их проявлениям – скажем, следам, которые те оставляют в пузырьковой камере. Философы же рассуждают априори, из самых общих соображений и из самых удобных кресел. Тем не менее четкую разделительную черту и в самом деле провести непросто. Ученые-эмпирики нынче спекулируют о свойствах пространства и времени, а кабинетные метафизики обобщают достижения экспериментальных дисциплин. Возможно, чуть облегчит мою задачу крылатая фраза Уилфрида Селларса – философы обсуждают то, как вещи (понимаемые в самом общем смысле) входят друг с другом в сочетания (понимаемые в самом общем смысле). Если мне опять не удалось прояснить суть дела, то остается только привести примеры типично метафизических вопросов – «в чем первооснова всего сущего?», «существует ли Бог?», «существует ли свобода воли?», «что такое причина и следствие?» и т.д.

В этом ряду важное место занимают взаимоотношения между Миром с Большой буквы и миром с маленькой, которые станут предметом сегодняшней статьи. Модель под названием «физикализм» утверждает, что обсуждать здесь, собственно, нечего. Есть только один мир. Другими словами, Мир – мир = фиг, пустое множество ф. Как это ни странно (и как это показал еще Аристотель), даже это утверждение является философским, поэтому избавиться от метафизики с его помощью не удается. Попытки отбрить ненужные умствования предпринимала и некогда популярная программа (логического) позитивизма. Она почитала любые пропозиции о Мире лишенными всякого смысла, но провалилась во многом по той же самой Аристотелевской причине. Схожую позицию по отношению к Миру занимает и материализм, однако в настоящем у этой модели есть некоторые трудности с определением понятия материи, поэтому в контексте заданного вопроса это просто синоним физикализма. Хотя в современной науке физикализм-материализм (в дальнейшем ФМ) — это практически безраздельно царствующая модель, до сих пор не все с ней согласны. Если же смотреть на процесс развития наших моделей исторически, то многие, очень многие мыслители испытывали сильную интуицию, что под фиговым листом ФМ скрывается самое интересное. Логическое отрицание ФМ можно назвать антифизикализмом (АФМ), и он постулирует, что Мир – мир > 0 (назовем остаток от этого вычитания ММ) – поскольку версия с < 0 кажется совершенно абсурдной. Важно не спутать этот тезис с дуализмом, традиционным противником ФМ. Претензии последней модели значительно сильнее. Вдобавок к наличию непустого ММ (АФМ) она постулирует то, что Мир делится на две различные половины. В мире с индексом 2 обитают сущности, сделанные из принципиально другой по отношению к материалу мира1 субстанции – обычно нематериально-ментальной. Модель Дэвида Чалмерса, изучение которой мы начали в предыдущей статье, как раз относится к роду дуалистических. В чем же особенности этих эфемерных созданий?

Уверен, что многие из Вас, друзья мои, распознали типичные признаки многих теистических конфессий в кредо метафизического дуализма. И в самом деле, в популярной трактовке Бог, равно как и окружающие его персонажи (ангелы, демоны и т.д.) расположились вовне прямой сенсорной досягаемости за пределами нашего мира. Более того, они сделаны из особого невещественного вещества. Разбор религиозных верований мы оставим для параллельной ветки статей «История моделей». Мы же сконцентрируемся на чисто философских версиях этих моделей, памятуя, что выводы о них mutatis mutandis применимы и к их религиозным коллегам. Самым широко известным примером, несомненно, является дуализм Декарта. Как же праотец современной философии дошел до жизни такой? Что его привлекло в этой экзотической идее? Возможно, в это трудно поверить, но его основной мотивацией являлась все та же тяжелая проблема сознания. Люди в интроспекции отчетливо наблюдают в себе две половины – ментальную и физическую. Дуалист вовсе не возражает против того, что мы имеем тело с определенными параметрами – весом, ростом, формой и т.д. Однако помимо этого у нас есть нечто, что имеет квалии и осуществляет мышление. Назовем это душой или сознанием. Эта наша загадочная (лучшая?) половина с виду вовсе не расположена внутри пространства и даже как бы не имеет прямого отношения к чему-либо материальному. Аргументы в пользу последнего утверждения восходят еще к Авиценне. В мысленном эксперименте он представил себе «летающего человека» — подвешенного в воздухе так, что тот ровным счетом ничего не чувствует. Мыслить же он от этого не перестанет – значит, душа нематериальна. Декарт полностью принял эту концепцию, хоть и прошел несколько другим логическим путем, оттолкнувшись от знаменитого cogito ergo sum. Я могу представить себя без тела (например, из предположения того, что меня обманывает злой демон), — рассуждал он. Однако то же самое невозможно сделать для мыслящей части нашего существа. Следовательно, Я – не Тело. В пользу дуализма существует много других аргументов (например, от корабля Тесея), однако ни один из них не является решающим.

Серьезной проблемой дуалистов является то, что две постулируемые ими ипостаси работают в нашем мире друг с другом на удивление гармонично. Мысли через волеизъявление вызывают телодвижения. Тело через органы чувств вызывает ощущения. Каков тогда может быть механизм их взаимодействия, если они принципиально несовместимой природы?! Рене Декарт исповедовал доктрину т.н. «интеракционизма». В соответствии с ней где-то внутри нас спрятан интерфейсный модуль (на роль вместилища души определялась центрально расположенная в головном мозге шишковидная железа), который и осуществляет сопряжение миров друг с другом. Его последователь Николя Мальбранш несколько видоизменил изначальную модель. В его представлениях оба мира вертелись строго синхронными велосипедными колесами. Телесные (или душевные) движения с одной стороны всего лишь составляли оказию (откуда название «окказионализм») для Всевышнего вмешаться, проявить чудеса небесной механики и преобразовать одну событийную линию в другую. Тем самым Бог из пассивного адаптера, всего лишь согласующего один мир с другим (по модели Декарта), превратился в этой цепочке в исполнителя активной роли, положенной Ему по статусу христианским благочестием. Другая (одна из многих) разновидность дуализма называется эпифеноменализмом. В этой модели огонь нейронных импульсов вызывает дым сознания побочным эффектом. Влияние в обратную сторону, соответственно, строго запрещается. Очевидный плюс всех дуалистических концепций против физикализма в том, что они легко справляются с неприятными вопросами из наших последних статей. Умная Маша может запросто узнать нечто новое о Мире. Роботам можно запросто отказать в наличии сознания. Квалии могут запросто отличаться от человека к человеку. Все вместе запросто объясняется особыми свойствами гипотетической ментальной составляющей.

Однако за приобретенные удобства этим моделям приходится расплачиваться сторицей другими проблемами. Как пробить дыру в иной мир в условиях закона сохранения энергии?! Каким именно способом душа адресуется к собственному телу, а не чужому? Затем дуалист представляет себе отношения между сознанием и материей на манер дистанционного управления. Увы, предсказания этой модели резко отличаются от того, что мы наблюдаем. Положим, я запускаю беспилотник — даже если он разобьется вдребезги, никакой боли у меня это не вызовет (по крайней мере, физической). Однако если телу (которое в данном случае является аналогом дрона) хорошенько врезать по мозгам, то оно придет в бессознательное состояние. Схожая беда произойдет в случае избыточного употребления алкоголя, хотя это тоже очевидное материальное воздействие. Неправдоподобен результат и следующего мыслительного эксперимента. Мы запросто копируем наши артефакты, например, компьютеры и софт, работающий на них. Дубликат при этом всегда работает идентично оригиналу. Однако дуалист вынужден отрицать возможность осуществления подобного фокуса с живыми существами. Положим, где-нибудь на болоте случайная комбинация атомов привела к возникновению Вашего полного двойника. Неужели он будет полностью нежизнеспособен?! Эти и схожие трудности привели к возникновению другой модельной мутации дуализма. В ней метафизическое действие ограничивается нашим маленьким миром, но предметам приписываются особые ментальные атрибуты. Важным представителем этого семейства модельной живности является панпсихизм. Положим, мы постулировали у человека наличие неких особых свойств. Чтобы не впадать в антропоцентрический шовинизм, кажется логичным распространить эти удивительные способности на все остальные существа и даже предметы. Но тогда и бактерии обретут способность к мышлению, и даже электроны смогут чувствовать!

Этот крайне неправдоподобный вывод можно ослабить, если предположить, что далеко не все вещи в этом смысле одинаковы. Положим, наш разум – уже имеет сознание, а вот у камня его нет. Примерно такую позицию занимает Дэвид Чалмерс: «Панпсихизм не так безумен, как его малюют… Физике требуются информационные состояния, но ее заботят только отношения между ними… Феноменологии [тоже] требуются информационные состояния, но ее заботит только их внутренняя природа… Ощущения – это информация изнутри, физика – информация снаружи». Что мы можем сказать об этой модели? Он прикрутил к панпсихизму модную нынче «информацию», а в другой редакции и не менее модную квантовую механику. Однако от этого модель не стала более адекватной. Она находится в начальной фазе своего развития хотя бы потому, что ее совершенно невозможно фальсифицировать. И что толку в том, что мы «объясним» феномен сознания наличием сознательно-информационных атрибутов у материи? Генезис модели тоже очевиден. Чалмерс верит в функционализм. Следовательно, он раб и «сильного ИИ». Однако ему и существование квалий тоже не хочется отрицать, значит, железяки обязаны их откуда-то обрести. Единственный выход – предположить наличие хитрых ментальных атрибутов у неживой материи. Однако все вместе взятое это не тянет на требуемую нами обоснованность. Это всего лишь еще одна (уже третья) неудачная попытка совместить два мира в одну систему.

Итак, и Дэвид – тоже лже-пророк. Как же нам вытянуть груз тяжелой проблемы сознания из модельного болота? Может быть, людям без помощи машин это и вовсе не по силам? Или может быть, стоит вообще забыть об этой проблеме и похоронить ее под горой попкорна? Не будем спешить с самым последним словом. Приговор теории моделей грядет в Блоге Георгия Борского.

Ответьте на пару вопросов
Какой дуализм Вам краше?
Мир миру рознь. Когда в моем тексте встречается некая странность, например, используется потешная комбинация слов или что-то как-то выделено, то можете быть уверены, это — неспроста. В данном случае в слогане самой первой строчки этой статьи самый первый Мир отличается от второго. Неочевидно это потому, что его первая буква совпала с началом предложения. Один Мир – Большой, другой мир – маленький.

№25 Танец с квалиями

Подходит к концу очередной недельный антракт в нашем концерте под названием «Современная философия науки». Я вижу в ложе на самом верху зрительного зала некоторые незанятые места. Давайте потихонечку на них пересядем. Оттуда открывается замечательный вид на театр военных действий философского конфликта по поводу территории «сознание». По пути купим еще программку, дабы освежить память о том, что происходило в первых номерах. В самом начале могучим интеллектуальным усилием некоторые мыслители ощутили в своей интроспекции «качественные ощущения». Травка как-то зеленеет, солнышко как-то желтит – а наша физика об этом молчит?! Где источник этих «как-то»?! Давным-давно (еще Галилео, а затем и Локком) эти сырые сенсорные данные были изгнаны с территории науки с позорным ярлыком – вторичные качества. Пришло время заняться переработкой этого вторсырья?! Сейчас ортодоксальная модель, конечно, дама в самом расцвете сил, но налицо явный острый заусенец на ее не в меру упитанном теле – стали возмущаться некоторые неконформисты. Демократическое большинство в ответ разделило свою гигантскую армию на два отряда. Представители первого из них стали тупо отрицать само наличие не прошедших квалификационную стадию квалий. Однако большинству этих непримиримых бойцов пришлось со временем пойти на некоторые уступки и все же признать наличие черной дыры в наших объяснениях на пути к многокрасочному миру психики. Другие же в это время усердно притупляли острие стрел надоедливой критики редукционным напильником. Может быть, наши ощущения идентичны тем или иным состояниям мозга?! Или супервентны на том или ином его функциональном состоянии?! Не было тарана пробить эту броню. Поэтому малочисленные осаждающие в надежде на чудо приняли на вооружение хорошо известную из Библейских сказаний стратегию Сынов Израилевых при взятии Иерихона. Они просто принялись ходить кругами вокруг да около неприступной цитадели материализма, скандируя вместо псалмов популистские лозунги типа «Каково быть летучей мышью?», «Что узнает умная Маша?» или «Мы – не зомби». Но в данном случае сверхъестественные силы преступно проигнорировали все мольбы о помощи. Превосходящие силы противника окопались на командных высотах и стали осыпать наступающих ядрами ядреной риторики. Противостояние быстро перерастало локальные границы. Но даже вступление в борьбу всей китайской нации и населения всей инвертированной Земли (в соответствующих мыслительных экспериментах) никак не изменило общего расклада сил. Борьба тупомодельшиков и остромодельщиков перешла в затяжную стадию. Отчего же паршивая парадигма никак не сдвигалась с мертвой точки?!

Для ответа на этот сугубо философский вопрос я желаю ввести в лексикон БГБ-шного языка понятие семантического расстояния между ментальными моделями. Пусть на некий момент мы обладаем множеством знаний (или того, что принимается нами за знания) А. Какие усилия надо приложить, чтобы добавить к нему модель Б? Очевидно, что ответ, прежде всего, зависит от того, насколько Б усидит на одной трубе с А – т.е. от их когерентности друг с другом. Хорошо, когда они соседи по лестничной клетке и их разделяет всего одна модельная ступенька. А коли между ними бездонная когнитивная пропасть? Коли жизнь и процветание Б означает духовную смерть львиной части поголовья А за их логической несовместимостью? Тогда вышеупомянутое демократическое большинство А отбросит Б прочь от кормушки. Оно упадет и пропадет в пыльных фолиантах историков. К счастью, даже для таких планов «Б» существуют шансы зацепиться за энергетическую трубу, но для этого им строго необходимо произвести дополнительные энергоемкие инвестиции с целью повышения обоснованности. Вышеописанная война модельных миров наглядно демонстрирует то, что для смены режима недостаточно заниматься критикой правительства. Требуется еще предложить некую конструктивную альтернативу. Успешные сдвиги парадигм в истории происходили именно таким путем. О том, что Земля все-таки вертится, осмеливались заявлять не только древне-античные пифагорейцы и Аристарх Самосский. На ту же тему спекулировали в средние века Николаи Орезмский и Кузанский – не вызвав ни малейшего волнения в рядах Аристотелевской профессуры категории А. Только Николай третий, Коперник, смог довести модель до уровня обоснованности теории Птолемея. И только благодаря этому героическому (и таинственному) интеллектуальному достижению столь экзотической гипотезе удалось выжить во враждебном окружении. И только спустя два поколения нашлись люди, которые благосклонно отнеслись к странной модели и стали развивать ее дальше, что в результате привело к массовому вымиранию модельного А-семейства. Так неужели не найдется героев в наше время, которые смогли бы хотя бы через зияющую семантическую пропасть атаковать физически мощного и доселе непобедимого Голиафа физикализма? Сегодня у нас в гостях Дэвид Чалмерс, философ разума из далекой Австралии. Какими аргументами зарядил он пращу своего интеллекта? Удалось ли ему обосновать полезность и необходимость модели квалий?

Дэвид, на первый взгляд, убежден в том, что на мякине редукции многократно расстрелянную душу не проведешь: «Те, кто хочет объяснить феномен [сознания] должны принять ту или иную форму дуализма. Можно выразиться так: материалистический торт покупай, а на сознание рот не разевай». Но, с другой стороны, совершенно очевидно, что те или иные ощущаемые нами феномены сознания прочно коррелируют с теми или иными событиями в физическом мире. Как тогда изловить эту золотую рыбку-пси в пучине нейронных сетей? Дэвид отправился на закупки искомой удочки неожиданным и нестандартным путем — в фирменный магазин квалиофобов (скептиков и ненавистников квалий) функционалистов. Напомню, что эта философская модель активно пользуется следующей аналогией — мозг относится к разуму так, как компьютер к программам. Из этой посылки моментально вырастает следующий тезис – множественной аппаратной реализации нашего интеллекта. Его можно, например, запросто организовать не только на людских извилинах, но и на железе роботов. Отсюда несколько неприятным следствием является то, что сознание может обрести и китайская нация, орудующая флажками или радиоприемниками, и даже соответствующим образом организованный набор пивных банок или рулонов туалетной бумаги. Во многом, поэтому большевики-квалиофилы (реалисты квалий) решительно не приемлют функционализм. Аргументы «от отсутствия квалий» и «от инверсии квалий», которые мы изучали в предыдущих статьях, вели огонь на поражение именно этой модели разума.

Дэвиду, сделавшему свой первый моральный выбор, пришлось откреститься от этих неразумных соратников по подпольной революционной борьбе. Хуже того, он предложил свои новые мыслительные эксперименты, которые, по его мнению, решительно опровергли результаты тех, которые предварительно были проведены Недом Блоком. В первом из них он предложил медленно удушить сознание у нас в голове. Давайте менять нейроны на полностью функционально аналогичные им кремниевые чипы, один за другим, дюжину за тысячей, миллион за миллиардом. Что тогда будет происходить с квалиями?! Либо они исчезнут внезапно, либо будут угасать постепенно. Скоропостижная кончина кажется ему малоправдоподобным сценарием. Это ведь не инсульт, а запланированная операция, все равно как по пересадке новой версии программного продукта. Как тогда такое может быть – сначала была целая куча квалий, а потом резко стала уже не-куча?! В природе разве такое случается?! Много чувств должно переходить в мало плавно, с чувством и расстановкой. Ну, а коль скоро эта первая бестолковая опция отвергнута, то где-то в середине процесса мы должны получить наполовину сознательное существо. Но и это невозможно! Предположить, что изначальное создание видело ярко-зеленую траву и ослепительно-желтое светило, а наполовину прооперированное — бледно-жухлую поросль и украденно-туманное солнце?! Это возможно разве что логически, но не в нашем высокотехнологическом мире, где запросто меняют человеческие мозги на материнские платы – победно заключил он.

И не удовлетворился на достигнутом, а закрепил успех новым с-ума-сшибательным мыслительным экспериментом. Зачем он ему понадобился? Дело в том, что помимо отсутствующих квалий победить требуется и инвертированные. Если пошагово менять красные особи на зеленые, то в середине процесса мы получим искаженные квалии, на возможности которых и настаивал космический ментальный опыт Блока. Что же тогда делать?! Только на нашей сцене — горячий танец с квалиями исполняет гастролер из жаркой Австралии. С шашкой наголо на идейного врага! В его распоряжении уникальная в своем роде установка по цветомузыке на сером веществе воображаемого пациента. Шапку прочь перед замыслом – его нейронный мозг полностью дублирован полупроводниковым, причем переключение интеллекта с естественного на искусственный производится по легкому мановению руки. При этом первая интегральная макросхема реализует нормальные квалии, а вторая – искорёженные. Как взмахнет Дэвид правым рукавом, то все цвета функционируют в пределах правового поля. Как левой, так все разом начинают работать налево. И вот в таком режиме и в бешеном темпе. Вопрос – вовсе не «сколько лет ежику?». И не «как долго продержится испытуемый?». А в том – заметит он происходящее с ним или нет. Трудно ведь представить себе, что тот будет как ни в чем не бывало наслаждаться происходящим свето-представлением?! Значит, сея reductio ad absurdum доказывает невозможность существования инвертированных квалий и возможность функционалистской редукции сознания?! Значит, и разум, реализованный хоть на роботах, хоть на миллиардах китайцев, хоть на туалетной бумаге, обретет сознание, ощутит красоту, сможет любить и ненавидеть?!

Может показаться, что наш сегодняшний бенефициант — типичный квалиофоб? Нет, в отличие от своих материалистических коллег он не желает ставить знак равенства между теми или иными вычислительными состояниями системы и теми или иными состояниями сознания. В его трактовке последнее нередуцируемо к первому. Давайте не будем пытаться свести настырные квалии к каким-то физически базовым понятиям, а вместо этого примем их за фундаментальные кирпичики мироздания – призывает он. Что же тогда получится?! Миры Дэвида Чалмерса – в Блоге Георгия Борского.

Ответьте на пару вопросов
Что такое квалии?
Подходит к концу очередной недельный антракт в нашем концерте под названием «Современная философия науки». Я вижу в ложе на самом верху зрительного зала некоторые незанятые места. Давайте потихонечку на них пересядем. Оттуда открывается замечательный вид на театр военных действий философского конфликта по поводу территории «сознание». По пути купим еще программку, дабы освежить память о том, что происходило в первых номерах.

№24 Земля наизнанку

В наших глазах – открытая дверь. Через нее мы впускаем в свой ментальный мир понятия всякий раз, когда желаем создать новые или развить существующие модели – вширь или вглубь. Далеко не всегда они образуются из наблюдаемых нами феноменов. Нередко это происходит путем банальных размышлений. Мы исходим из (часто неосознанного) предположения, что на все наличествует своя причина. Пусть занудный Дэвид Юм оспорил его легитимность, зато мудрый Иммануил Кант благословил. В любом случае, мы не обращаем внимания на эти умствования и плодотворно плодим сенсорно нерегистрируемые сущности, приспосабливая их с наветренной стороны каузальной цепочки. Кто обрушивает на нашу голову гром и молнии? Люди назвали его бог (пусть сперва с маленькой буквы). На начальной стадии моделестроения это был всего лишь бесполезный статист, приглашенный для исполнения необходимой для объяснения роли. Местодержатель, пустое название. Но дай непонятному имя, и многое сразу прояснится. На него со временем можно повесить дополнительные функции. Вскоре он стал уже Богом (с большой буквы) — источником мыслей в голове и генератором событий на жизненном пути простых смертных. Показалось интересным войти с Ним в отношения меновой торговли. А затем уже вполне логично стало задаться другим (антропоцентричным и телеологическим) вопросом – что Ему, собственно, от нас надо?! И тогда Он постепенно превратился в Вездесущего Всемогущего Всевышнего, причем еще и Единственного в своем роде. Вот это уже потенциально очень полезно, хотя бы потому, что теперь Его было нетрудно превратить во Всеблагого держателя морали и нравственности, дрессировщика рода людского, ненавистника идолов и прочей магической нечисти. Наконец, после долгих блужданий в пещере неведения удалось вообразить себе, что надо позарез прорваться за пазуху к этому во всех отношениях замечательному существу, причем непременно посредством изучения его творения. Очень грубо и схематично — примерно так человечество пришло к науке…

Столь же грубо и схематично – так дело обстояло и с интересующим нас словом «квалии». Изначально оно потребовалось для того, чтобы объяснить происхождение наших «сырых ощущений». Каково быть летучей мышью? Что узнает о мире красок умная Маша? Шла долгая борьба модели за выживание с желающими отправить ее легким движением бритвы Оккама в темный колодец истории. Не без контрнаступлений. Так, Фрэнк Джексон повел атаку на (эпистемологический) физикализм: «Кажется совершенно очевидным, что она [умная Маша] узнает нечто новое о мире и о нашем зрительном восприятии его. Но тогда неизбежен вывод, что ее предыдущее знание было неполным. Однако она обладала полной физической информацией. Следовательно, дополнительная по отношению к этой информация все же существует, и физикализм ложен». Как мы уже знаем, она не привела к решающему успеху, но наглядно продемонстрировала – эта модель кусаться умеет. Так было уже в младенчестве, а она ведь продолжала расти и развиваться. В определенный момент возникло понимание того, что в принципе ни малейших гарантий того, что пресловутые квалии одинаковы в головах у всех у нас, не существует. Это нехитрое соображение послужило основанием для нового витка модельного противостояния.

Возьмем известное нам из предыдущих серий яблоко. Все мы с детства натренированы называть его цвет «красным». Поэтому если нас спросить об этом, то мы все дадим одинаковый и правильный ответ. Однако кто поручится за то, что у всех у нас при этом одинаково «краснеет» в голове? Какой Минздрав организовал калибровку и гарантировал, что в нейронных сетях у нас ловятся квалии стандартного типа и размера?! Никто ведь не знает, где они запрятаны у нас в голове. Не может такого быть, что у кого-нибудь на самом деле «зеленеет», у другого «желтеет», а распознавать образы их просто родители неправильно научили?! Логически точно никаких препятствий к этому нет. Более того, существуют даже некоторые экспериментальные свидетельства в пользу наличия этих флуктуаций. Медитации на эту тему быстро привели к развитию соответствующих моделей. Пусть на вход системы ознания поступает одинаковый сенсорный сигнал, от все того же известного нам фрукта раздора. Предположим, что у одного человека при помощи каких-нибудь X-осцилляций в области V4 зрительной коры головного мозга он производит красные квалии, а у другого зеленые (для красных ему требуются Y-осцилляции). С первого взгляда, такой различный выходной результат функционализмом должен быть категорически запрещен. Однако этот вывод может быть парирован предложением трактовать состояния мозга целиком, холистически – ведь доктрина допускает различную реализацию одинаковых функциональных состояний у различных индивидуумов. Нельзя ли добиться того же самого эффекта в масштабах одной отдельной личности? Примерно так рассуждал известный нам с предыдущей статьи Нед Блок. Стремясь поразить наповал гигантскую махину функционализма, он задумал ряд новых мыслительных экспериментов. И вывернул своему подопытному персонажу мозги наизнанку.

Представьте себе нормального человека с нормальным цветным зрением. Нед, недолго мучаясь муками совести, вставил ему в ретину (или в нейроны, следующие непосредственно за ней по пути обработки сигнала) инвертирующее устройство. С его помощью красные вещи теперь ему стали казаться зелеными, голубые – желтыми и т.д. Спустя некоторое время несчастный приспособился к совершенному над ним злодейству и стал корректно называть траву зеленой, нижнюю полосу российского триколора красной и т.д. При этом он еще смутно помнил те золотые времена, когда Солнце для него ощущалось в ознании так, как сейчас небо. Но безумные ученые не успокоились на достигнутом и организовали еще одну операцию, в результате которой у нынешнего больного развилась кромешная амнезия относительно своего здорового прошлого. Тем самым, мы получили эффект изменения квалий, схожий с описанным в предыдущем параграфе, но в пределах одного человека — за счет разворачивания событий во времени. Что и требовалось доказать?! Пора праздновать большую победу разума над неадекватными ментальными моделями?! Увы, вывод Блока оказалось совсем нетрудно блокировать. Например, оказалось возможным предположить, что вышеупомянутый процесс адаптации к инвертированной жизненной ситуации вызвал бы физиологические изменения в голове пациента. Эксперимент требовал срочного ремонта, в котором перевернутые квалии были бы ввернуты в извилины без малейшей задержки, чтобы исключить возможность отступления на заранее подготовленные позиции для оппонентов. Но этого было решительно невозможно достичь в земных условиях. Вот так, незаметно, спираль модельных вооружений раскрутилась в космическом пространстве.

Это был отнюдь не первый прецедент прорывов к звездному небу над головой. В другом (ставшем классическим) мыслительном эксперименте знаменитый американский философ Хилари Патнэм сотворил для нашей Земли совершенного двойника. Населил его идентичными нам существами (до последнего атома) и, к тому же, организовал им снабжение аналогичной нашей водой. Так случилось, что практически все ее атрибуты (текучесть, прозрачность, утоление жажды и т.д.) тоже совпали и даже название на обоих планетах использовали одинаковое – «вода». За одним единственным исключением. Дело происходило в темные века средневековья, и посему обоим расам гуманоидов оказался неизвестным один маленький, но существенный факт. Земная вода имеет химическую формулу H2O, а вот инопланетная — XYZ. Ну, и зачем потребовалась столь дорогостоящая энергоемкая процедура, спросите Вы? Все ради скромного, но весьма важного для философии вывода – «смысл [слов] не в голове». Ведь, хотя обе ментальные модели «воды» внутри сознания туземцев до последней пропозиции неотличимы, ссылались они на нечто принципиально разное.

Так что Неду Блоку не пришлось пролить чересчур много воды, заседая в своем удобном кресле рабочего кабинета. Создавая свой дубликат для нашей Земли, он шел проторенным путем. Однако целью его ментальной экскурсии вовсе не было отловить в смысловой сачок смысл «смысла». Он вибрировал на тему мгновенной инверсии квалий. Поэтому ему пришлось вывернуть двойник нашей голубой планеты наизнанку. Как? Так, что она стала желтой, а трава красной, Солнце зеленым и т.д. Помимо этого он предложил исковеркать великий и могучий английский язык так, чтобы понятия диаметрально поменялись местами. Когда изнаночный человек произносил «яблоко красное», то имел в виду «зеленое» (и наоборот). Все, что ему осталось, это умыкнуть какого-нибудь бедолагу отсюда туда (или наоборот), по пути вставив ему куда-нибудь в зрительный тракт свое патентированное перевертывающее квалии устройство. Конечная скорость света ему в этом очередном преступлении против функционализма нисколько не помешала. Но добился ли он желаемого? Пробился ли к сокровищнице истины? Нет, нашлись приемы и против этого взлома. Так, например, ему было указано на то, что красный по сути своей – цвет теплый, а зеленый – холодный. Инверсия приведет к невозможной тепло-зеленой комбинации. А я тогда не глядя махну заодно психологическую теплоту с холодностью, немедленно заткнул обнаруженную дыру Нед. Ведь у этих ощущений тоже должен быть какой-то функционально-материальный субстрат?! Коль скоро эти оттенки никак не влияют на поведение, то это должно быть возможно. А ну как наоборот влияют?! Голубой ведь успокаивает, красный возбуждает. А в ответ на этот аргумент Блок… Я думаю, что стоит оборвать на этой точке нашу сегодняшнюю историю. Боевые модельные действия перешли в затяжную окопную стадию. Аннигиляция творческой энергии философов продолжается и по сей день.

Итак, в отличие от идеи Бога, пока непохоже, чтобы ворвавшиеся в мир моделей через открытую дверь наших глаз квалии привели к благотворным изменениям в нем. Но может быть, светлое (и цветное) будущее у этой менталки еще впереди? Неужели не находится желающих попробовать перевести ее развитие в более конструктивную фазу? Есть и такие люди – но на противоположной стороне земного диска. Путешествие к антиподам грядет в Блоге Георгия Борского…

Ответьте на пару вопросов
Функционализм ошибочен?
В наших глазах – открытая дверь. Через нее мы впускаем в свой ментальный мир понятия всякий раз, когда желаем создать новые или развить существующие модели – вширь или вглубь. Далеко не всегда они образуются из наблюдаемых нами феноменов. Нередко это происходит путем банальных размышлений. Мы исходим из (часто неосознанного) предположения, что на все наличествует своя причина. Пусть занудный Дэвид Юм оспорил его легитимность, зато мудрый Иммануил Кант благословил.

№23 Великая Китайская дыра

Еще в глубокой древности философы понимали, что мир дан нам исключительно в ощущениях. Невозможно строго опровергнуть даже солипсизм – верование о том, что весь этот кошмар-вокруг просто привиделся мне (или Вам). Однако (эпистемологической) ошибкой было бы не пытаться рассортировать наши сенсорные данные по отдельным лоткам. Безусловно, наивысший статус (по критерию надежности) в этом процессе должны получить наши модели т.н. внешней реальности. Мы ее величаем «объективной» по той причине, что множество самых разнообразных людей легко образуют консенсус по наблюдениям за ней. Если на исправном уличном термометре (желательно цифровом) высвечивается показание «-20°С», то только слепой, безграмотный или безумный станет это отрицать и отправится гулять в пляжном наряде. Этот т.н. факт инвариантен по отношению к субъекту, снимающему измерения, и посему объективен. Используя программистскую метафору, речь здесь идет о глобальных переменных, одинаково доступных различным вычислительным процессам. Хуже дело обстоит с теми ячейками памяти, которые локально скрыты внутри нашей психики. Доступ к ним имеет каждый из нас персонально, в первом лице. Причем в ряде случаев не только на чтение, но и на запись. Рассмотрим пропозицию «это – прекрасная красна девица». Ее истинность может быть, конечно, вычислена посредством сложного логического анализа. Однако практика показывает, что в ряде случаев она определяется нами интуитивно или даже случайно. Более того, практически ничто не мешает нам объявить ее «ложной» могучим сознательным усилием свободной воли (и без релевантных оснований на это). Однако предикат предикату рознь. В череде черных дыр, предназначенных для их хранения в нашей непрозрачной голове, можно обнаружить дополнительные градации серого (опять же по критерию надежности). Возьмем, например, тот же атрибут «красная», но не в переносном смысле (девица), а в буквальном (цвет). Наш вердикт о его наличии производится полностью подсознательно, автоматически и, как правило, не может быть аннулирован более высокой инстанцией «узнания» (напомню, под этим словом мы подразумеваем ментальные модели ощущений). Исключения здесь составляют такие обстоятельства, когда нам доступна дополнительная информация, опровергающая показания органов чувств (например, знания о том, что мы находимся в помещении с особым освещением). Но и тогда в «ознании» (а под этим словом понимаются ощущения феноменологические) у нас все же предварительно «краснеет».

Может быть, когда-нибудь нейрофизиология обнаружит способ считывать внутренние переменные нашего сознания извне, от третьего лица. До той счастливой поры приходится как-то перебиваться всякой гадостью, которая есть под руками – например, психологией. Задача определения взаимоотношений души и тела стояла перед человечеством с древних времен. Не разрешили ее до сих пор, хотя некоторые достижения имеются. Например, «душу» переименовали в «психику» (или «сознание»), а Рунет вообще отличился, обозвав сею проблему «психофизиологической». На протяжении недоброй первой половины прошлого столетия сокрушить этот гранит науки пытались почти исключительно тараном бихейворизма. Ученые этого направления решили по-простому — оставить черный ящик внутри нас в закрытом состоянии. Нехитрая формула «стимул-реакция» была объявлена кошерной, все остальное — от необрезанного лукавого. История моделей сдвинула эту застойную парадигму на новые высоты. Идейным наследником исследователей ящиков Скиннера стал т.н. функционализм. Воспользовавшись моделями возникшей в промежутке информатики, эти философы выдвинули в качестве основного тезиса – «разум относится к мозгу точно так же, как программа к компьютеру». Его же можно считать краеугольным камнем и всей когнитивной революции, произошедшей в шестидесятых.

Тем самым появилась потенциальная возможность анализировать модули чуть приоткрытого ящика Пандоры. Важным непосредственным выводом из этого положения стало заключение (напрямую импортированное от компьютерщиков) о том, что софт-сознание можно реализовать на произвольном альтернативном харде. Как же в рамках этого подхода предполагалось решить проблему «квалий» в нашем ознании? По-разному. Герой прошлой статьи Дэниел Деннет (тоже считающий себя функционалистом) пошел на крайний север. Как мы помним, он попытался отрицать самое наличие ознания (не исключено, что он совершил то, что философы называют «ошибкой категоризации» – принял второй смысл «красного» верхнего абзаца за первый). Самые осторожные мыслители заняли диаметрально противоположный полюс. Они предпочли спихнуть со своей совести груз «тяжелой проблемы» заявлением о том, что их теория применима исключительно к внешне регистрируемому поведению, т.е. «узнанию». Все остальное – вовне их компетенции. Наконец, многочисленные обитатели жаркого экватора, которые будут нас интересовать сегодня, попытались прикрутить неуловимые «квалии» к своей модели. Что же из этого приключилось?!

Самое естественное объяснение происхождения сознания, которое в него приходит, это поставить знак тождества между ним и каким-то определенным состоянием головного мозга. У этого подхода есть свои недостатки. Альтернативой функционалистов является объявление его одной из ролевых функций софта, обитающего где-то в недрах нашей головы. В любом случае «ознание» можно посчитать эпифеноменом (побочным эффектом) организации мозга. Или есть еще такой философский термин – супервентность. Он означает, что некоторые свойства более высокого уровня могут полностью определяться состоянием ее более низкого уровня, будучи не сводимыми к ним. Например, программа супервентна на компьютере. А ознание тогда супервентно на нейронных сетях. Все было бы хорошо у этой модели, но тут на ее счастливом жизненном пути приключилась экскурсия в Китай. В этот раз не в пресловутую комнату Джона Серла, хотя определенное сходство прослеживается. Сказывают, что первым прототипом мыслительного эксперимента, о котором пойдет речь, было сочинение несправедливо забытого советского фантаста Анатолия Днепрова-Мицкевича. Однако известность он получил только после его канонического изложения американским философом Недом Блоком в самом конце семидесятых.

Блоку удалось временно блокировать дальнейшее распространение редукционистских моделей, призвав на помощь миллиард граждан КНР (за что философы их любят — так это за многочисленность). Все вместе они должны были организовать тот самый процесс, который происходит у нас в голове. Тем самым активно использовался вышеупомянутый основной тезис функционализма — множественной аппаратной реализуемости функциональных ролей. Вооружим, например, каждого подданного Поднебесной флажком. Обычные рядовые налогоплательщики будут фигурировать в качестве данных. Флажок поднят – единица, опущен – ноль. Организуем логические операции над ними при помощи более высокопоставленных чиновников. Для нелокальных соединений вовне прямой видимости можно приспособить телефоны. Теперь привяжем всю систему к произвольному телу или другим аналогичным устройствам ввода-вывода посредством радиосвязи и запустим на ней ту самую психическую программу, наличие которой постулирует функционализм. Получит ли вся конструкция тем самым сознание? Ощутит ли красоту красок? Будет ли восторгаться гармонией звуков? Обретет ли ее функционирование смысл? Нед недооценил своих оппонентов. Представьте себе, нашлись желающие проглотить пулю этих вопросов, которые с покерным лицом ответили на них положительно. И перенесение эксперимента на другую (еще более абсурдно-издевательскую) аппаратную базу (например, ролики туалетной бумаги) их нисколько не убедило. Поехали дальше…

Важным этапом большого модельного пути стала небольшая публикация Джозефа Левина. В ней он заявил: «Утверждения об идентичности физики и психики оставляют существенную дыру в наших объяснениях, и, как следствие, у нас нет возможности определить в точности какие из этих утверждений истинны». Если среди моделей любителей квалий выбирать наиболее когерентную с враждебно настроенным окружением, то эта – лучший претендент. Хотя сам Левин в своей статье в качестве источника своей инспирации сослался на творчество знаменитого Саула Крипке, трудно представить, что на ход его мыслей не повлияли Нед Блок с его Китайским сознанием, Фрэнк Джексон с его умной Машей и Томас Нагель с его классическим вопросом «каково это – быть летучей мышью?» Что имелось в виду? Всего лишь то, что совершенно непонятно, как из изучения того, что видно объективно снаружи, построить модельный мостик к тому, чего не видно и расположено субъективно внутри. Если умная Маша изучит всю физическую подноготную самой себя, медведя и летучей мыши, поймет ли она каково чувствовать краски, как сладко спать всю зиму и как ощущается ультразвуковая эхолокация?! Ученые занимаются построением ментальных моделей, при этом важная фаза их развития – каузальная. Физикам удалось построить цепочку причин и следствий потрясающей воображение ширины и глубины. При желании нет теоретических преград к тому, чтобы она могла быть еще расширена или углублена чуть не до произвольного уровня точности. Предположим теперь (и это очень щедрое предположение), что ученым удалось обнаружить некий материальный коррелят ощущения «краснеет» (ими могут быть, например, по модели Фрэнсиса Крика определенные осцилляции нервных волокон группы C). Как вывести отсюда дальше происхождение квалий?! Как развить модель?! Чем замостить дыру в объяснениях?!

Словами Томаса Хаксли: «Как столь замечательная вещь, как сознание, возникает в результате раздражения нервных тканей, столь же необъяснимо, как появление джинна из лампы Алладина». На долгом пути к квалиям информация, содержащаяся в бесчисленных фотонах, попадающих на сетчатку наших глаз, претерпевает ряд сложнейших преобразований, за которыми мы в принципе в состоянии проследить. Однако самый последний (последний ли?) шаг – появление цветной картинки у нас перед глазами является прыжком через пропасть. В физике света нет. В физике свет суть мрак. Свет светлеет только в глазах живого наблюдателя. (Предыдущие три предложения составляют единый неделимый риторический квант, разрывать их на части воспрещается законами об авторском праве). Почему это так? Вместо ответа воспользуемся удачной аналогией Томаса Нагеля. Представьте себе, что Вы – древний пещерный житель, и Боги или инопланетяне сообщили Вам о том, что материя суть энергия. Что Вы поймете в этом высказывании?! Великая Китайская дыра в наших моделях, обнаруженная философами разума, и поныне зияет бесцветной черной бездной…

Война миров квалофилов (реалистов) и квалофобов (скептиков) отнюдь не завершилась мирным договором с подачи Джозефа Левина. Отнюдь – она разгорелась с новой силой. Причем такой, что в поисках победителя пришлось вывернуть наизнанку всю Землю. Новый виток гонки модельных вооружений – в Блоге Георгия Борского.

Ответьте на пару вопросов
На китайцах сознание не реализуешь?
Еще в глубокой древности философы понимали, что мир дан нам исключительно в ощущениях. Невозможно строго опровергнуть даже солипсизм – верование о том, что весь этот кошмар-вокруг просто привиделся мне (или Вам). Однако (эпистемологической) ошибкой было бы не пытаться рассортировать наши сенсорные данные по отдельным лоткам. Безусловно, наивысший статус (по критерию надежности) в этом процессе должны получить наши модели т.н. внешней реальности.

№22 Машинизация Маши

Ох, и тяжела ты, головушка, своим содержимым. Примерно так сокрушаются многие современные философы, сокрушенные т.н. «тяжелой проблемой сознания» (литерально «жесткой» — hard), к изучению которой мы приступили в предыдущей лекции. Специально для «прогульщиков» краткое изложение ученого горя (подсвеченное с несколько другого угла). Джона Серла прежде всего интересовала т.н. «интенциональность» человеческого мышления. Это некоторые (не самые простые в понимании для простых смертных) аспекты таких механизмов нашей психики, как желания или верования, воображение или память, смысл или идеи. А вот целая плеяда других мыслителей обратила внимание на наличие значительно более элементарных «сырых ощущений», которые известны каждому из нас, причем не понаслышке, а в первом лице. Нет сомнений в том, что мы получаем от наших органов чувств определенные данные. Однако они почему-то регулярно сопровождаются четко фиксируемыми качественными состояниями. Цвета нам кажутся по-разному цветными, в звуках мы слышим гармонию или какофонию, страдание или наслаждение переживаются нами тем или иным характерным образом и т.д. То есть, с одной стороны, мы «знаем-что» у нас нечто болит (в наших терминах имеем развитую ментальную модель происходящего и можем описать ее наружу, третьим лицам – где, как, почему и т.д.). С другой, мы «знаем-как» — у нас не просто, а «как-то болит» (и пересказать это словами значительно сложнее). Вот это качественное «как-то» разнообразных сенсорных модальностей и получило название «квалии» (от латинского quails, что можно перевести — «каково это, какого сорта»). И в чем же здесь загвоздка, спросите Вы? Ну, во-первых, эти штуки вбиты где-то в темных недрах нашей головы, и их очень тяжело вытащить на дневной свет, даже при помощи плоскогубцев. Во-вторых, беда в том, что их никак не измеришь физическим аршином, соответственно наши лучшие модели не могут толком объяснить их происхождение. Мыслительный эксперимент с умной Машей из прошлой статьи был призван подчеркнуть именно нищету сухих теоретических формул. В них не найдешь ни вдохновенья, ни любви, ни даже пышных красок. Вероятно, именно поэтому последние стали парадигматическим примером, иллюстрирующим суть явления. Давайте и мы воспользуемся им. Предположим, что Вы сейчас лежите на диване и наблюдаете на голубом экране Вашего примитивного генератора виртуальной реальности … ну, хоть яблоко, причем не айфоновское, а настоящее, красное (или зеленое). Почему у Вас что-то как-то краснеет (или зеленеет) где-то в глубинах нейронных сетей? Были б Вы машиной, разве «почувствовали» бы что-нибудь в информационных каналах, помимо потока бездушных цифр? Переформулировав чуть иначе — откуда Вы знаете, друзья мои, что Вы не «зомби»?

Последний вопрос требует небольшого мифологического отступления. Когда мы величаем телевизор «зомби-ящиком», то имеем в виду под этим словом далеко не то же самое, что и философы разума-сознания. Сие понятие проникло в наш модельный ряд из негритянско-Гаитянского фольклора. В их своеобразной культуре жрецы Вуду, якобы, были в состоянии реанимировать умерших, которые впоследствии послушно исполняли их волю. По крайней мере, именно в эту версию верило суеверное местное население (и вслед за ним легковерные иноземные туристы-чтототеисты), а вот скептически настроенные ученые-безбожники предложили упрощенное фармацевтическое объяснение феномена. Нас горячие диспуты вокруг этой эзотерики нисколько не интересуют. Более того, мы с Вами (совместно с квалифицированными исследователями квалий) будем вообще абстрагироваться в этой модели от идеи «дистанционного управления», а оставим только «бесчувственность трупа» (или робота?) Логически ничто не мешает нам представить «существо», которое бы механически исполняло все наши функции, при этом ровным счетом ничего не ощущая. Такой зомби-робот мог бы в точности, как и Вы, возлежать на диване, зевая, просматривать рекламные ролики, кликать по различным иконкам на экране компьютера и даже энергично поглощать попкорн. Словом, генерировать наружу полностью идентичное Вашему поведение. Единственное отличие этой куклы от Вас (то самое, что делает ее «зомби», а Вас «живыми») заключалось бы в процессах, проистекающих внутри, т.е. в отсутствии пресловутых «квалий» (а также прочей «интенциональной» живности). Что тогда увидит зомби в зомби-ящике? И как помогает человеку анти-зомби-ящик чуть повыше плеч не стать зомби?

Примерно так рассуждают те теоретики от философии, которые пытаются «раздуть» вышеописанную тематику до финансируемых масштабов. Конечно же, и оппозиция их усилиям чрезвычайно сильна – ведь крайне некогерентно сомневаться в потрясающих достижениях современной физики, тем более посредством муссирования задач, за которые непонятно как взяться. Как известно, самым простым решением любой проблемы является отрицание ее наличия. Поэтому неудивительно, что в направлении к уничтожению неудобного вопроса (полного элиминирования или хотя бы «сдувания» его в размерах) марширует отборная гвардия научной ортодоксии. В первых рядах у нее уже хорошо нам известный почетный доктор Университета Няймейхена, всадник Дэниел Деннет. Процитируем один из его риторических шедевров: «Человеческая деятельность по (грубо говоря) генерированию ответов на собственные вопросы типа «каково быть нами?» создает те артефакты воображения, которые мы называем «квалиями» — столь любимыми философами разума, стремящимися возродить дуализм как серьезную теорию сознания». К сожалению, в ней он не смог удержаться от любезной грубости в мета-контексте по отношению к своим оппонентам. Далеко не все из них стремятся возродить дуализм. Далеко неочевидно, что эта (несколько презираемая нынче) теория ложна. Далеко развивать эту критику, однако, не будем. Вместо этого перейдем к обсуждению основного тезиса Деннета. Далеко ходить за разъяснениями не приходится. Грубо говоря, он ставит под вопрос само наличие квалий. Если еще грубее, то он пытается машинизировать Машу. Его нисколько не пугают призраки многочисленных зомби в своем самом ближайшем окружении. Значительно больше его смущает совершенно естественный следующий вопрос – ради какой такой полезной функции эволюция могла одобрить наличие абсолютно бесполезных для дела размножения генов переменных психики? Поэтому, с его точки зрения, наши «наивные» представления о наличии качественного характера наших ощущений, являются «иллюзией пользователя» (собственные слова ДД) – т.е. продуктом фантазии, вероятным результатом предварительных «культурных» напластований. В его представлении мы нарисовали себе в воображении мир красок, раструбили по всему свету о красоте музыки, наврали ближним своим о невыносимости боли. На самом же деле онтологический статус этих паршивых квалий такой же, как у «денег или любви» (собственные слова ДД) – ментально-придуманный. Насколько адекватна эта модель?

Выше мы уже приводили популярный аргумент «от зомби» (философы его называют «от отсутствия квалий»), но это было типичное рассуждение кабинетного ученого, априори. Его ценность невелика. Оно может быть разве что использовано для демонстрации чисто логической возможности наличия дополнительного слоя субъективных ощущений над функциональным уровнем нашего поведения (как оно выглядит со стороны). Однако отсюда не следует то, что такие живые трупы реально могут существовать в нашем мире. Сильно желательно обнаружить эмпирические свидетельства того, что наши сознательные акты расщепляемы на две составляющие – информативную и феноменологическую. Другими словами, требуется показать, что эти две ипостаси не идентичны, обе наличествуют в природе независимо друг от друга. Уже третью страницу подряд я наблюдаю в интроспекции квалии острой головной боли, вызванной сложностями в выражении своих мыслей. В надежде на Ваши ответные квалии сочувствия и (в целях облегчения дальнейшего изложения материала) предлагаю соответствующим образом расщепить процесс нашего русского «сознавания» чего-нибудь на две составляющие –информационное «узнавание» и феноменологическое «ознавание». Соответственно Сознание = Узнание + Ознание. Нас (сегодня и в будущих статьях) будет, прежде всего, интересовать второе слагаемое в этой сумме…

Для начала, есть серьезные основания подозревать, что по крайней мере некоторые высшие животные испытывают ознание, полностью аналогичное нашему. Предполагать, что какие-нибудь кошки или собаки имеют принципиально отличную от нашей физиологию в современности можно разве что в комбинации верованием о принесении Адама и Евы в историческую реальность на космическом блюдечке с небесного цвета каемочкой. У этих зверюг глаза слишком умные для зомби. При этом у нас нет оснований предполагать, что животные страдают узнаванием происходящего с ними на нашем уровне. Тем более странно было бы объяснять его происхождение «культурными» напластованиями?! Это все пока не очень убедительно, поэтому перейдем к людям. Уже у homo sapiens (сначала Эрнстом Пёппелем, а затем Лоуренсом Вайскранцем, придумавшим название феномена) лет пятьдесят назад была обнаружена т.н. «зрячая слепота». Она заключается в том, что люди с поврежденной зрительной корой головного мозга могут каким-то образом (и с высокой вероятностью — до 90%) распознавать символы, продемонстрированные им в той области, где они ровным счетом ничего не видят. То есть, они рапортуют полное отсутствие зрительных ощущений на уровне квалий. Тем не менее их организм каким-то образом «догадывается» о предъявленной им информации. Причем происходит это достаточно надежно и не для самого тривиального контента. Например, пациентов можно попросить посмотреть в направлении невидимого стимула. Или им даже удается поймать брошенный в их сторону невидимый мяч. Получается, что они обладают некоего рода узнанием при полном отсутствии ознания, т.е. работая в режиме зомби. Существуют и диаметрально противоположные эффекты при других нарушениях механизма перцепции. Например, прозопагнозией называется невозможность распознавания лиц людей (даже близких родственников). В наших терминах здесь присутствует ознание при неполном узнавании. А антропологи докладывают нам, что обучение дикарей, в словаре которых всего пара слов для обозначения всех цветов радуги, не подтверждает теорию «культурного» происхождения этих понятий. Напластовать неестественные термины в их сознание обучением никак не удается.

Подводя итоги, я, конечно же, не имею права утверждать, что мне удалось полностью опровергнуть теорию Деннета (и его команды). Мой тезис значительно скромнее – налицо некоторые с первого взгляда противоречащие ей факты. Помимо этого, для революционного отрицания того, что говорят нам органы чувств и здравый смысл, требуется значительно больше оснований, нежели словесная эквилибристика и нежелание развивать ортодоксальные ментальные модели. Мы с Вами наблюдали типичные проделки менталки начальной фазы развития. Давайте не будем обманываться ловкостью ее рук (вспомнив модель фокусника). Налицо типичное Машенничество. Наша Маша – все же не машина и не зомби. Лично у меня есть твердая уверенность в том, что, выйдя из своей физической темницы, она на самом деле увидит весь цветной свет…

Сегодня мы познакомились с самым радикальным способом вычитания из нашего сознания ознания. Гильотина Деннета обезглавила его, оставив одну жалкую букву «с» от слова «совсем» (вроде бы так сейчас стали выражаться?) Нет ли более мирных способов борьбы с еретиками?! Нет ли способов прикрутить непокорные квалии к нашим моделям цивилизованным путем? Для этого придется сигать через пропасть. Воспарим в небеса Платона над Поднебесной – с Блогом Георгия Борского.

Ответьте на пару вопросов
Квалии - иллюзия пользователя?
Ох, и тяжела ты, головушка, своим содержимым. Примерно так сокрушаются многие современные философы, сокрушенные т.н. «тяжелой проблемой сознания» (литерально «жесткой» — hard), к изучению которой мы приступили в предыдущей лекции. Специально для «прогульщиков» краткое изложение ученого горя (подсвеченное с несколько другого угла).

№21 Умна Маша, да краски краше

В начале современной философии был Рене Декарт. Он, конечно же, неправильно, как сейчас правильно полагают, распилил мир на два принципиально различных куска: res extensa (вещи, которые имеют протяженность, т.е. физический мир) и res cogitans (ментальная субстанция, т.е. наше сознание). Очень уж он любил все аккуратно расчертить в системе координат – мясо отдельно, душа отдельно. Тем не менее эта ментальная модель оказалась необыкновенно полезной для развития науки семнадцатого века христианской эры. В лучших Аристотелевских представлениях того времени абсолютно все предикаты объектов были смешаны в единый метафизический суп. Скажем, цвет предметов отличался от их массы только названием той (субстанциальной) формы, которая составляла формальную причину их существования. Модель тем самым (как это обычно бывает с особями начальной фазы своего развития) на все вопросы имела заготовленные ответы, от которых, правда, не было ни малейшего проку. Картезианский дуализм позволял абстрагироваться от ряда атрибутов наших феноменов сознания и сконцентрироваться на том, что можно было пощупать руками, на том, что поддавалось изучению подручными средствами – материи. Для замечательного французского мыслителя наш мир был чем-то вроде гигантского часового механизма. Во многом его усилиями удалось популяризировать модель атомизма. Настолько, что ей удалось прорваться в учебные пособия ряда университетов. Настолько, что с ее помощью здание науки развернулось к дремучему лесу психики задом, а к добрым молодцам физикам передом. Настолько, что через ее конструктивное отрицание Исаак Ньютон смог обнаружить фундаментальные принципы своей нетленки «Principia Mathematica».

А потом именно там, на старых добрых Британских островах, пышным цветом расцвело конкурирующее с рационализмом Декарта философское направление эмпиризма. Однако и те предпочли отфильтровать из программы своего исследования чересчур сложные нематериальные материи. Например, Джон Локк ввел в обиход четкое отличие между т.н. «первичными» качествами объектов (такими как их форма, вес или движение) и «вторичными» (запах, вкус, цвет, звук и т.д.). По его мнению, только качества первой категории качества были в состоянии производить у нас объективные ощущения (т.е. такие факты, с которыми согласится каждый), «похожие» на реальность. Вторые же безнадежно субъективны и, следовательно, не заслуживают серьезного внимания научной общественности. И снова мы видим теоретически спорное, но прагматически верное для своего исторического контекста суждение. Именно концентрация на изучении качественных качеств произвело ту физическую науку, которая достигла потрясающих воображение космических модельных высот в современности. С этой позицией пытался спорить другой эмпирист (он же епископ) Джордж Беркли. В его понимании «первичные» атрибуты ничем не были лучше «вторичных». Нет ни малейшей гарантии, что они правильно отражают сущность скрывающейся за ними материи. Может быть, и материи-то никакой и вовсе не существует? Может быть, и вообще никаких предметов-то нет, пока никто на них не глядит? Скажем, камень – кто доказал, что он присутствует, когда мы от него отвернулись? Может быть, он только где-то в ментальном проекторе у Бога на небесах наличествует, оттуда попадая нам в голову в виде готовой идеи? Конечно же, столь радикальные взгляды не могли не вызвать бурной аллергической реакции многих философов. Так, его современник доктор Сэмюэл Джонсон «опроверг» Беркли, пнув камень у себя под ногами. А юрист Владимир Ленин обрушил на религиозного мракобеса гром и молнию своей риторики в ставшей классической работе «Материализм и эмпириокритицизм».

Лапидарные argumentorum ad lapidem чрезвычайно эффективны в забивании аргументов оппонента камнями. Однако некоторые без вины убиенные модели имеют странное обыкновение воскресать. И вот представьте — сейчас, в самом начале третьего тысячелетия мы, озадаченные квантовыми парадоксами, снова потеряли прочную материальную почву под ногами. Оказалось, что некогда неделимые атомы все же расщепляются на целый зверинец невидимых микрочастиц, самое наличие и свойства которых мы выводим исключительно из их интеракции с другими, не менее таинственными невидимками. Случайно ли это? Нет, это результат естественного хода развития наших ментальных моделей. И тем же самым прогрессом объясняется наш проснувшийся интерес к святая святых храма нашей души. Дошли руки у науки заняться и тем, что создало ее саму – сознанием. И осознали мы, что имеем дело с «тяжелой проблемой» («hard problem», по выражению австралийского философа Дэвида Чалмерса) наличия т.н. «квалий» во взаимоотношениях (нет, уже не «души») разума и тела. В чем же заключается ее особенная тяжесть? Продемонстрировать я ее сегодня собираюсь на одном классическом мыслительном эксперименте, но для начала пара собственных слов. Тут я как-то в диалоге с одним из наших подписчиков задал почти Берклианский вопрос – какой цвет имеет море, когда на него никто не смотрит? Аналогично я мог бы спросить – какой звук издает падающее в глухом бору дерево, когда вокруг нет ни души? Или – какой на ощупь кролик, когда его никто не трогает? Всего лишь один ответ (из одного слова) подходит под все три вопроса. Возможно, он окажется неожиданным для кого-то из Вас, тем не менее, это – никакой. Как так?

Я сохраню свое время, не приводя описание механизма зрения (слуха, осязания и т.д.) с точки зрения нашей лучшей современной физической теории. Думаю, что Вы тоже замечательно представляете себе, какие удивительные приключения и превращения испытывают маленькие, но очень шустрые фотончики, задействованные в этом процессе. Это замечательная математическая модель, с проработанным вглубь и вширь объяснением каузального типа. Нет в ней одного – того «сырого ощущения», которое мы величаем цветом. Оно как-то порождается в нас в процессе перцепции, и его просто не существует без смотрящего. Световые волны разной длины и амплитуды, распространяющиеся по всевозможным траекториям, есть. Но без глаза, в который они попадут, картинки не получается. Аналогично вовне сознания живых существ нет боли или наслаждения, красоты или уродства, любви или ненависти, смысла или желания. Особенно очевидным для естественного интеллекта это стало с развитием интеллекта искусственного. Вы думаете, что робот «видит»? Вооруженный самой лучшей камерой в качестве устройства ввода, его процессор всего лишь записывает массив данных в определенные ячейки его памяти, которые потом обрабатывает по тому или иному алгоритму. Положим, существует некоторая программа, которая вычисляет наличие гармонии звука. Это не так сложно сделать, элементарная математика. Результатом ее работы может стать какая-то внутренняя булевская переменная, получившая значение «истина» и исполнение некоторого внешнего действия, например, синтез и вывод наружу речевого высказывания «ну ваще, классно…». Будет ли при этом железяка реально испытывать то, что обычно хотим выразить этими словами мы?!

Интуитивно это кажется абсурдным. Именно это кажется очевидным Томасу Нагелю, высказывание которого мы вынесли на всеобщее обсуждение. «Существование сознания похоже, что означает, что наше физическое описание Вселенной, несмотря на его богатство и объяснительную мощь, является только частью истины». Этот старичок-с-ноготок и профессиональный неверующий когда-то был учеником Джона Ролза, а нынче он — живой патриарх американской философии. Насколько обосновано его утверждение? Одним из стандартных возражений многочисленных противников этого вывода является аналогия с неживой природой. Мы все знаем, что вода – это H2O. Однако когда многие молекулы соединяются вместе, получившийся агрегат обладает новыми свойствами – например, текучести. Соответственно, может быть, и более навороченная программа со временем обретет какие-то человеческие черты, которые мы ошибочно считаем собственной привилегией?! Нет, защищает свою ментальную модель Томас, кардинальное отличие с водой в том, что из нашей теории напрямую выводится необходимость того, что она будет жидкой. Попробуйте сделать тот же вывод из анализа функционирования нейронов или других физических составляющих нашего головного мозга?! Нет, защищает ментальную модель Нагеля Георгий Борский, аналогия ошибочна и по другим причинам. Сколько бы мы ни взяли молекул воды, хоть на стакан, хоть на поллитра, хоть на море по колено или выше его, в вино это ее не превратит. Количество в рост качества здесь без помощи сверхъестественных сил упрямо не переходит. Почему тогда мы полагаем, что какой-нибудь термостат, если ему закрутить побольше интеллектуальности в извилины, вдруг обретет сознание?! Может быть, даже влюбится в батарею и будет согревать ее теплом своего электронного сердца?! Тем не менее, как легко можно догадаться, сея аргументация не привела к образованию консенсуса. Прежде всего, потому, что на конце иглы этой модели смерть физикализма-материализма.

Ну а что же испытанное оружие философов – мыслительные эксперименты? Неужели не нашлось способа подкрутить диоптрии и подкачать интуиции? Конечно же, на эту тему было проведено немало ментальных опытов. О самом известном (на мой взгляд) из них (другого австралийского философа Фрэнка Джексона) я хотел бы сегодня напоследок поговорить. Представьте себе хорошую девушку Машу. Не просто красавицу, а еще и умницу. Но вот беда — злые безумные ученые заточили ее с самого рождения в темнице, в которой организовано дикое освещение – абсолютно все кажется черно-белым. И заставили несчастную узницу изучать физику в каких-то своих корыстных целях. Наша умная Маша выучила при этом абсолютно все факты, законы и модели, которые только в состоянии быть открыты наукой, настоящей или будущей. В том числе все, что касается природы цвета и физиологии его восприятия. Может быть, она даже от черной тоски и незеленой скуки сконструировала себе электронного друга — аппарат, который мог детектировать частоту падающего на него света. Но тут, к счастью, произошла социальная революция, извергов и тиранов отправили в поликлинику для опытов, а всех жертв их бесчеловечного режима выпустили на волю. И вышла Маша в многополярный и многокрасочный мир. Мы ведь с Вами еще помним, что не существовало такой вещи, которой бы она о нем не знала. К тому же ее верный робот всегда рядом и готов помогать. Вопрос – узнает ли она все же что-то новое, посмотрев на залитый солнечным светом свет собственными глазами?! Что краше – ум или краски?!

Мы закончили эту статью одним прекрасным вопросом об одной красивой девушке. А это означает, что Вы вполне вправе ожидать большой конкуренции на право составить ей законную пару – ответ. Машины женихи приглашаются на смотрины в Блог Георгия Борского.

Ответьте на пару вопросов
Маша познает квалии?
В начале современной философии был Рене Декарт. Он, конечно же, неправильно, как сейчас правильно полагают, распилил мир на два принципиально различных куска: res extensa (вещи, которые имеют протяженность, т.е. физический мир) и res cogitans (ментальная субстанция, т.е. наше сознание). Очень уж он любил все аккуратно расчертить в системе координат – мясо отдельно, душа отдельно.

№20 Шах глупому королю

Это уже третья статья на тему «слабосильного ИИ». Уверен, что многие потеряли смысловую нить. Помогу Вам ее отыскать — вкратце содержимое предыдущих серий. А король-то глуп! Именно так, по моему мнению, следовало перевести «The Emperor’s New Clothes» — заголовок книги английского ученого Роджера Пенроуза. Это бы значительно точнее передало аллюзию на знаменитую сказку Андерсена, нежели «Новый ум короля». В той научно-популярной работе содержалось неслыханное по наглости утверждение – царствующая модель когнитивного превосходства роботов над людьми является голой ложью. Георгий Борский с присущим ему безнадежным оптимизмом включился в некогда проигранную борьбу. Было предложено исследовать историю шахмат, понимаемую как квест по обретению знаний в образованном ими микромире. Исследование двух популярных стратегий по алгоритмизации этой задачи – голый перебор и коннекционизм (нейронные сети) обнаружило их несостоятельность. Но насколько успешен был в обуздании поставленной проблемы человек? И не существует ли альтернативных компьютерных решений? Сегодня мы продолжим вести атаку Лукаса-Пенроуза против правящей партии «сильного ИИ».

В классическом определении шахматы триедины – это спорт, искусство и наука. Хотя многое изменилось, об этом до сих пор пишут в большинстве учебников для начинающих. Нас сегодня будет интересовать последняя ипостась в этом списке, т.е. достижения аналитиков. Чем же они отличились? Так называемыми теорией дебютов, эндшпилей и принципами позиционной игры. И снова давайте оставим без внимания первые две составляющие, сконцентрировавшись на третьей. В терминах предложенного нами в прошлый раз «интенсионального» подхода здесь идея в том, чтобы распилить все гигантское пространство мира шахмат на более обозримые области при помощи определенной комбинации атрибутов. Типичное правило представляет собой пару <условие, рекомендация». Например, такой совет, как «развивай фигуры» можно видеть, как <фигура имеет мало возможных ходов, предоставь ей эту возможность>. Эти «условия» таким образом – это просто некие признаки, при помощи которых можно обнаружить особенности позиции. Опытный шахматист распознает сии следы на доске точно так же, как Вы — лица своих знакомых. Это резко сокращает количество тех потенциальных ходов (своих и противника), которые он явно рассматривает, ведь многие из них можно немедленно списать как ошибочные. Поэтому вышеупомянутые принципы можно представлять себе и как компас, при помощи которого производится спортивное ориентирование в позиции и выбор направления к ее усилению. Именно в качестве компонентов т.н. оценочной функции они используются в алгоритмах большинства таких стандартных программ, как «Стокфиш». Именно благодаря им те обрезают дерево расчета до посильного для себя состояния. Именно с их помощью они побеждают людей. И именно они являются четкими аналогами того, что ученые называют «законами природы».

Рассмотрим утверждение, что деятельность по их открытию за долгую историю шахмат была успешной и полезной. Для профессионалов оно самоочевидно. Они понимают, что наше понимание игры постоянно росло, причем во многом именно за счет развития ее теории. Великие чемпионы мира прошлого не смогли бы на равных конкурировать даже с современными мастерами, разве что подучились бы. Впрочем, существует объективный способ прощупать это высказывание на истинность. Достаточно ограничить компьютерные алгоритмы теми позиционными принципами, которые были известны на ту или иную эпоху, а затем пустить их побороться с обычными, необрезанными. Приглашаю скептиков провести этот простой эксперимент в погоне за фальсификацией. Всем же остальным хочу вдобавок пояснить — некорректно полагать, что обнаруженные на сегодня людьми «законы» являются оптимальным набором и полностью исчерпали тему. Гарантий тому нет. Хуже того, некоторые из них могут быть и вовсе ошибочными. Однако этого и не требуется в поставленной нами задаче по обретению знаний. Вполне достаточно того, что они, все вместе взятые, были в целом плодотворными и обеспечивали общий прогресс, развитие моделей. Хорошо, пускай это так, почему тогда не реализовать ту же когнитивную программу при помощи ИИ? Проблема в том, что этот боковой путь натыкается на примерно те же комбинаторные грабли, что и лобовая атака.

Для начала такие заключения весьма нечетко специфицированы. Это типичные «законы» типа ceteris paribus (при прочих равных), столь характерные для рода людского. Возьмем для примера т.н. «Коня Тарраша» (в дальнейшем КТ). Это такая лошадка, которая заблудилась на периферии доски, и ее хорошо бы вернуть поближе к эпицентру сражения. Однако далеко не всегда эта рекомендация работает. В ряде случаев сей привередливый скакун прекрасно себя чувствует на самом краю. Витгенштейн сказал бы, что КТ – кластерное понятие, отдельные экземпляры которого обладают свойством «семейного сходства» друг с другом. Проигнорируем пока эту особенность. Будем считать, что для признака каждой проблемы всегда существует четкий критерий ее локализации. Тогда ее можно представить в виде набора базовых отношений (назовем их «атомами») между фигурами и полями, объединенными логическими «и» или «или». В вышеупомянутом случае это будет что-то типа КТ = “Расположен-на (Конь, h4) ИЛИ Расположен-на (Конь, h5) ИЛИ Расположен-на (Конь, a4) ИЛИ Расположен-на (Конь, a5)”. А собственно «закон шахматной природы» тогда гласит: «КТ – это плохо». Человек получает подобного рода КТ-обобщения Как-То через интуицию. Как предполагается это сделать при помощи машинного разума? Собственно, выход на первый взгляд единственный – последовательным перебором гипотез и их проверкой. Давайте прикинем, насколько это реализуемо. В шахматах наличествуют следующие объекты: 64 клетки и 12 типов фигур. Они могут находиться в различных отношениях друг с другом. Приведенный выше «Расположен-на» — только одна из многих возможностей. Совершенно необходимы еще «Защищает», «Защищен», «Нападает», «Атакован» и много других. Кстати, совершенно непонятно как обрести даже их. Строго говоря, из полученных с раздачи правил игры не следует даже то, что не следует подставлять свои фигуры под бой. Опять же абстрагируемся и от этого. Подсчет по списку текущих «правил» произведет больше 10000 атомов (причем это округлено сильно вниз). Теперь их надо еще сцепить логическими скрепками, которых в теории может быть бесконечное количество. На практике людьми используется, конечно же, конечное число, однако такие понятия как «пешечная цепь» или «структура» могут охватывать всю доску и в нашем каноническом написании представлять из себя конъюнкцию из нескольких десятков членов. Давайте и здесь упростим задачу нашему полупроводниковому другу, пусть их будет ровно 10 штук. Каково тогда получится пространство возможных гипотез? Ни в блоге сказать, ни калькулятором посчитать – зашкалит. А ведь их еще все надо по очереди проверить, на выборке из многих сыгранных партий. И ведь мы еще не дошли до рекомендаций, которые имеют схожую структуру.

Итак, разрезание пространства феноменов на понятия и формирование гипотез из них тоже производят комбинаторный взрыв впечатляющего масштаба. Шапка Мономаха, хоть и тяжелая, хоть и железная, нисколько от него не спасает. Ну, а что же человек, как поживает он в столь нечеловеческих условиях? Представьте себе, замечательно! История шахмат насчитывает не одно столетие, но до самого конца девятнадцатого века наукоемкие достижения в этой дисциплине исчерпывались однострочниками типа «пешка – душа шахматной партии» и общим эстетическим впечатлением от «стиля Морфи». Первым «ученым» по праву считают первого официального чемпиона мира Вильгельма Стейница. В дальнейшем аналитическая деятельность бурно развивалась через творчество уже известного Вам доктора Тарраша, еще неизвестного Вам теоретика Нимцовича и многих других. К настоящему моменту она практически выдохлась в удивительной синхроничности с наступлением нового тысячелетия и новой эры «комповщины». Таким образом, длилась она немногим более ста лет. А сколько в ней принимало участие людей? Совсем недавно в продаже был отрывной календарь с нанесенными на него датами рождения гроссмейстеров всех времен и народов. Их на тот момент было меньше тысячи. Сравните это с бесчисленными полчищами роботов, которые совершенно необходимы для получения хотя бы одного из открытых шахматистами «законов».

Но этого просто не может быть, скажете Вы! Наверняка где-то Георгий Борский смухлевал. Нет, все было предельно честно, но это и в самом деле только шах глупому королю. В логическом пространстве еще пара клеток, на которые он может удрать. Первое, что приходит в голову – предположение, что для шахмат принципы оптимальной стратегии могут сформулированы значительно проще и, соответственно, могли быть обнаружены алгоритмом значительно быстрее. Но каким же умом тогда человек обнаружил свои, пусть заумно сложные, но эффективные конструкции? Более серьезно другое возражение — отрицание уникальности способа обнаружения «законов природы» посредством перебора всех возможных гипотез. Может быть где-то наличествует всем алгоритмам алгоритм, и вот он-то и работает у нас в мозгах?! Увы, упрямая математика отрицает наличие этой дыры для общего случая. Такой алгоритм возможен только ad hoc, для строго определенного домена. Самый же правдоподобный довод (который можно использовать в комбинации с предыдущим) гласит, что люди просто рассуждали по аналогии. Шахматы, и в самом деле, создавались по образу и подобию средневековых баталий. Соответственно, не составило труда сообразить, что надо жрать чужое и не отдавать свое, что центр лучше окраин и т.д.. Оба последних суждения, тем не менее, по моему мнению, недостаточно убедительны, поскольку всего лишь откладывают проблему на один ход. Откуда тогда мы обрели столь эффективную стратегию в странной игре по имени жизнь? Неужели кто-то полагает, что ее размерность меньше шахмат? Там ведь еще и правила меняются прямо на ходу и от хода к ходу. В ответ принято кивать на эволюцию. Но позвольте, нельзя же эту даму постоянно эксплуатировать в качестве заместителя Всевышнего. Она уже, чай, совсем старенькая старушка. Если мы ее размещаем в нашем мире, то придется подчиняться его законам. Каким образом ей тогда удается регулярным образом преодолевать проклятие чертова Черча (схожим образом полемизировал на эти темы американский философ Джерри Фодор в своей плохо понятой книге «What Darwin Got Wrong»)? Тем не менее существует укоренившаяся привычка воспринимать гипотетический эволюционный генератор случайных событий как генератор чудес. Это мощный модельный редут, который мне в одиночку не преодолеть. Однако здесь, вероятно, поможет другой способ. В одной из недавних статей из серии «История моделей» я описал «Тест Сталкера», предложенный мной на замену «Тесту Тьюринга». Конечно же, это было сделано вовсе не только для потехи телечитателей, наличествовал и расчет на много ходов вперед. Представим себе некую новую детерминированную интеллектуальную игру с самыми дикими правилами, которые никак не напоминают наш мир. А теперь представим себе очень много таких игр. Возникновение для них успешных теоретических познаний при помощи людей эмпирически опровергнет вышеприведенные аргументы и поставит победный мат в нашей затянувшейся партии.

Да, шахматы и в самом деле модель жизни. Конечно же, полученные нами результаты полностью переносимы на науку, искусство и многие другие сферы нашей креативной деятельности. Во всех них мы как-то обнаруживаем релевантные понятия и генерируем адекватные гипотезы. Мы каким-то путем обнаруживаем пути в столь непохожих друг на друга гигантских мирах. Что это, Геделевская интуиция Платоновских идей? Может быть, оно так и есть, но эта этикетка никак не объясняет механизма работы феномена. Как же людям удается перейти через черту Черча? Роджер Пенроуз искал объяснение в квантовых процессах внутри нейронов нашего головного мозга. Георгий Борский предполагал, что мы находимся в контакте с загадочным миром моделей. В любом случае, наихудшей стратегией мне представляется отрицание самого наличия этого феномена. В мире шахмат научная составляющая в современности практически вымерла, остался один только голый спорт. Произошло это всего лишь потому, что шахматисты стали воспринимать себя как приставку к победителю-компьютеру, как его устройство ввода-вывода. Точно также мы можем сделать роботов, которые будут замечательно функционировать в нашем физическом мире. Точно также произойдет это при помощи разработанных нами же эвристик. Однако любое существенное изменение в «правилах игры» – и они окажутся беспомощными выработать новую стратегию поведения. Так стоит ли прославлять столь глупого короля?! Вряд ли я смогу закончить эту статью лучше, нежели цитатой американского философа Хьюберта Дрейфуса, который еще в семидесятых годах прошлого века выразился так: «Люди начали воспринимать себя как объекты, встраиваемые в негибкие вычисления … машин… Наш риск не в наступлении эры суперинтеллектуальных компьютеров, а в выведении расы субинтеллектуальных людей»…

Итак, несмотря на приложенные усилия, нам так и не удалось заматовать с виду совсем голого короля. Нет ли других направлений для атаки на модель безраздельно правящего материализма? Некоторые философы полагают, что такой путь существует и лежит он через хорошо известные каждому из нас вещи, которые они называют квалии. Некоторые читатели нашего блога выказали интерес к этой тематике. Я вынужден прервать намеченную программу передач для удовлетворения их пожеланий. Sentio ergo sum – в Блоге Георгия Борского.

Ответьте на пару вопросов
Согласны ли Вы с Максом Тегмарком, что наш мир – математический объект?
Это уже третья статья на тему «слабосильного ИИ». Уверен, что многие потеряли смысловую нить. Помогу Вам ее отыскать — вкратце содержимое предыдущих серий. А король-то глуп! Именно так, по моему мнению, следовало перевести «The Emperor’s New Clothes» — заголовок книги английского ученого Роджера Пенроуза. Это бы значительно точнее передало аллюзию на знаменитую сказку Андерсена, нежели «Новый ум короля».

№19 Чувство лжи

В начале были анекдоты на кухне. Отксеренный Солженицын, «Покаяние» и ГКЧП были потом. Насколько банальная болтовня оказалась эффективна в расшатывании могучего советского строя?

Можно ли вообще такими скромными средствами оспорить могущество правящих ментальных моделей? В начале у нас были просто смутные ощущения обмана — уж слишком приторно лубочную картинку рисовали учебники и показывал телевизор. Мы долго не верили этим чувствам, поскольку они противоречили всему, что мы выучили. Однако постепенно снежный ком неортодоксальных фактов нарастал и превращался в ледяной кулак. С его помощью мы разрушили гигантскую стену лжи и, счастливые открывшейся перспективой, немедленно начали возводить новую. А сейчас мы удивляемся тому, что когда-то позволяли себя так одурачить. В начале совсем другой истории был английский философ Джон Лукас. Именно ему принадлежит честь (или бесчестие?) исторически первой формулировки утверждения о «слабосильности ИИ», которое оказалось в фокусе нашего внимания в предыдущей статье. Если в четырех словах, то его можно сформулировать так: искусственный интеллект слабее естественного. Конечно же, не в манипуляциях с гигантскими цифрами или массивами данных, или любой другой легко алгоритмизируемой механической деятельности. Речь шла о тех задачах, которые принято величать креативными. А потом был Роджер Пенроуз, влиятельный ученый с мировым именем, который тоже решил подать свой голос в защиту этой модели. К моменту выхода его книги «The Emperor’s New Clothes» в большой тираж фанфары нашей прессы без устали трубили бессмертную славу грядущему царству роботов. Поэтому прозрачный намек на знаменитую сказку Ганса-Христиана Андерсена легко расшифровывался. В известном каждому с детства сюжете о прозрачном одеянии одного невзрачного монарха тоже была чисто эпистемологическая начинка. Чему следует верить – собственным глазам или признанным авторитетам?

Однако, в отличие от чудесной сказки, в нашей с Вами реальности от этого гласа народного из толпы решительно никто не прозрел. Напротив, на презренное разброд, шатание и болтание накинулась вся королевская рать. Что там скворчит этот глупый малец? Пусть это голая ложь, самодержца не трожь! Юную модель сбросили со стены, а осколки развеяли по ветру. Чтоб не пришлось самому кости собирать, еретик Пенроуз предпочел замолчать. Откуда столь непредвиденный классиками мировой литературы результат с одной стороны и такое верноподданническое рвение с другой? Дело в том, что сторонникам ортодоксии есть что терять, помимо своих цепей «сильного ИИ» (напомню, наша версия этой пропозиции несколько отличается от той, которую атаковал Джон Серл своей «Китайской комнатой»). Если верить тезису Черча-Тьюринга (а нет ни малейших оснований иметь сомнения на его счет), то при помощи наших компьютеров можно сделать абсолютно все, что в принципе вычислимо средствами нашего физического мира. Предположить, что жалкие двуногие и бесперые в состоянии перепрыгнуть через их теоретически известные ограничения (прежде всего, в решении комбинаторно сложных задач) – так и в пучине религиозного мракобесия можно сгинуть! Отступать просто некуда – за спиной господин великий физикализм-материализм.

Каковы же были основания для критики существующего строя? Роджер Пенроуз, будучи математиком, вслед за Джоном Лукасом замахнулся на строгое демонстративное доказательство своего утверждения. Однако сил чистой дедукции для импичмента безраздельно царствующей ментальной модели банально не хватило. Это было очевидно самому Пенроузу, который называл свое построение «спекулятивным», т.е. не претендующим на большее, чем муссирование мутных интуитивных ощущений лжи. Многочисленные критики обнаружили в цепи его рассуждений не менее многочисленные слабые звенья. С тех пор прошло без малого тридцать лет. Что изменилось с тех пор? Наш мир от этой эскапады ничуть не пошатнулся. Напротив, продолжил вращаться в выбранном направлении. Голый король стал уже, пожалуй, императором, городов и весей диктатором. Гигантские подати ему платят соединившиеся пролетарии и буржуи всех стран золотого миллиарда, многополярного мира черного золота и многие другие. Одни ожидают от него прорывов в еще более золотой век. Другие задрожали и упали в обморок, ожидая неминуемый апокалипсис. Однако, с моей точки зрения, партия Лукаса-Пенроуза еще отнюдь не проиграна, в их ментальной позиции наличествуют скрытые резервы. Сегодня я постараюсь не математикой, так философией внести свой скромный вклад в расшатывание неприступных бастионов моделей робототеистической ортодоксии. Кто-то всегда за тех, кто побеждает. А вот я всегда за тех, кого обижают. Типичная борьба Борского в стиле безнадежного оптимизма — мы пойдем другим, блоговым путем.

Каким именно? Сперва постараемся собрать Шалтая-Болтая из разбитой скорлупы, взболтаем старую болтушку. Обратим внимание на то, что тезис «слабосильности ИИ» можно (возможно, еще несколько слабее) переформулировать так: «Существует некая полезная деятельность, в которой человек может функционировать эффективнее, чем компьютер». Под «полезностью» здесь понимается нечто прагматически ценное относительно наших шкурных интересов. Этот предикат нужен для того, чтобы исключить, например, «нечестность». Люди в этом большие мастера, но сие достижение не делает им чести. Что же мы ценим больше всего? В данном когнитивном контексте, конечно же, знания. Ментальные модели сделали из обезьяны homo sapiens. Именно селекция самых адекватных из них – самое важное для нашего рода занятие. Итак, повестка дня принята, приступим к прениям. Для доказательства истинности вышеприведенного утверждения (благо оно экзистенциального типа) достаточно привести всего лишь один эмпирический пример. По моему убеждению, таковых на самом деле в истории моделей можно обнаружить великое множество.

Проблема заключается в том, что не так-то просто точно вычислить масштабность решенных человечеством творческих задач. Среди них, однако, есть одно важное исключение – шахматы. Как, скажете Вы, разве как раз эта игра не является прямым свидетельством обратного? Разве софт на мобильниках не даст фору большинству любителей? Разве сильные движки не обыгрывают чемпионов мира? Это и в самом деле так, что я вовсе и не собирался отрицать. Но я сегодня буду говорить об ином – не о сравнительной практической силе белковых и кремниевых шахматистов (т.е. об их умениях), а об их сравнительных способностях по познанию мира (т.е. по приобретению знаний). В данном случае по познанию микромира древней забавы королей. Как же устроить это состязание? Для начала представим себе, что шахматы изобрели ровно пять минут тому назад. То есть, у соперников нет совершенно никаких наработок, помимо правил. А теперь посмотрим, на что способны железные рыцари против беззащитных созданий, вооруженных одними голыми мозгами. На старт… Внимание… Часы запущены! Ваш ход, маэстро И.И.!

Голым перебором эту задачу не побороть. Шахматы – игра конечная, т.е., количество уникальных позиций в ней ограничено. Тем не менее их слишком много, больше, чем атомов во Вселенной. Если четырнадцать миллиардов компьютеров, работающих в четырнадцать миллиардов раз быстрее текущих, заставить считать четырнадцать миллиардов лет (прошедших с сотворения мира), то они с гигантским запасом не справятся. Можно, конечно, попробовать распутывать с самого конца – с максимально простых окончаний. Именно по этому принципу построены т.н. таблицы Налимова – на каждую позицию в них приведены лучшие ходы. Рассчитаны они в настоящее время вплоть до 7 фигур, а требуется 32, причем сложность задачи с добавлением каждой возрастает экспоненциально. Это когнитивный тупик, как из него выходить? Оказывается, есть и такая партия! Для этого достаточно сообразить, что вовсе не обязательно задавать пары <позиция x, оптимальный ход y> табличным образом (давайте назовем такой подход «экстенсиональным»). Если найти формулу-алгоритм, которая будет успешно делать из иксов игреки, то мы справимся с данной задачей значительно меньшими затратами (а этот путь будет у нас «интенсиональным»). Но где же зарыта искомая функция?

Почти на поверхности нашего головного мозга, если пользоваться нейронными сетями. Честно говоря, как в точности работает биологическая разновидность оных, до конца неизвестно. Зато их математические модели хорошо изучены. По существу, они представляют собой такой универсальный преобразователь входов в выходы, который посредством подбора набора коэффициентов может аппроксимировать произвольную кривую. На самом деле, почти произвольную. Предположим, что наша кривая на самом деле является прямой. Тогда для ее реконструкции достаточно всего лишь двух параметров – угла наклона и смещения. Однако это случай вырожденный. Если она не окажется достаточно «гладкой», то и настраиваемых параметров потребуется ничуть не меньше, чем строк в таблице Налимова. Обладает ли идеальный шахматный алгоритм таким атрибутом «гладкости» — вопрос, конечно, интересный, но полностью нерелевантный тому, что мы желаем от него получить. Прошедшая полный курс обучения нейронная сеть, может быть, и будет безумно сильно играть, но при этом окажется «непрозрачной» для ума. Она не будет содержать того, что мы хотели раздобыть — «знания». Другими словами, ее турнирные успехи будет невозможно сохранить, передать другим и, тем более, перенести в другой домен. Коль скоро цель нашего интеллектуального занятия «полезность», то и это путь в никуда. А ведь именно по этому пути пошли все наши лучшие шахматные движки, не сделав ни малейшего вклада в теорию игры.

Позвольте, но ведь люди ее как-то создали? Означает ли эта фундаментальную шаткость позиций «сильного ИИ»? Не прав ли тогда был Пенроуз, когда заявлял: «[У меня есть] чувство “очевидности” того, что, хотя многое из происходящего в ментальной деятельности могло бы работать как компьютер, сознательный разум в целом не является таковым». Увы, это всего лишь показания детектора лжи внутри него. Да и то рассуждение, которое мы привели до сих пор, не может считаться даже доводом ни в пользу «очевидности» этого чувства, ни в пользу нашей версии тезиса «слабосильного ИИ». Необходимо сначала доказать, что созданная шахматистами теория была чем-то «полезным». А затем еще и показать, что не существует другого способа достичь того же самого алгоритмическим путем. Мало самому увидеть голого короля, надо еще доказать всему миру его наготу, подчеркнув его отличие с модно одетой моделью. Поэтому статус всего, что было сказано до сих пор, пока не выше, чем типичная блоговая болтовня. Но это была только присказка. Настоящее шатание основ будет впереди…

Итак, наша дуэль с «сильным ИИ» хоть и состоялась, но снова перенесена. Партия откладывается. В позиции белых налицо некоторый кризис жанра. Срочно требуются свежие идеи. Самое время заглянуть за плечо человеческому Е.И. Как он решал проблему приобретения знаний? Идет охота на голого короля – в Блоге Георгия Борского.

Ответьте на пару вопросов
Болтовня может пошатнуть основы основ?
В начале были анекдоты на кухне. Отксеренный Солженицын, «Покаяние» и ГКЧП были потом. Насколько банальная болтовня оказалась эффективна в расшатывании могучего советского строя?

№18 Слабосильный ИИ

Сегодняшнюю статью я, пожалуй, начну с анекдота. Бородатого и пошлого. Мою доселе белоснежную репутацию, возможно, несколько спасет мотивация – желание проиллюстрировать с его помощью в сжатой и доходчивой форме суть одного популярного некогда направления в психологии. Итак, бихейворист говорит бихейвористочке непосредственно после акта большой любви: «Тебе было хорошо. А как было мне?» А теперь поясню, над чем именно надо смеяться. Бихейворизм как программа научных исследований возник в продолжение традиций эмпиризма (его корни простираются как минимум до Дэвида Юма). Во многом это был протест против засилья мощных в те времена спекулятивных моделей фрейдизма. Его основной тезис был очень прост – редукция психики к внешне наблюдаемому поведению (behavior по-английски, откуда и происходит название). Другими словами, что там внутри происходит – не суть важно. Все, что нас интересует, регистрируется наблюдениями со стороны (именно в этом соль вышеприведенной шутки). Формула «стимул – реакция» была предложена как шаблон, который был способен описать без исключений все аспекты жизни без исключений всех живых существ. Практически вся первая половина прошлого века прошла под знаком доминирования этих моделей. А потом, уже в районе шестидесятых, грянула когнитивная революция, запущенная рядом публикаций, в которых выделялись работы Ноама Хомского. От этого мы стали просвещенные и теперь полагаем, что все же имеет смысл просветить тот черный ящик, который расположен у нас в голове. Теперь мы обнаружили внутри него много черных ящичков поменьше, и так далее матрешкой вплоть до самого низа. Теперь мы проводим время за рисованием многочисленных квадратиков, соединенных стрелочками между собой (философы с некоторым презрением именуют это занятие boxology — квадратикологией).

Однако в то далекое послевоенное время, когда знаменитый Алан Тьюринг предложил свой не менее знаменитый тест по проверке искусственно сделанной интеллектуальности, это его счастливое будущее, ставшее нашим с Вами заурядным настоящим, еще зрело в телах ментальных моделей будущих героев когнитивного прорыва. Поэтому неудивительно, что предложенный им критерий изрядно попахивал бихейворизмом. Ведь тот судья, которого он предложил нанять на должность эксперта, должен был вынести вердикт по этому поводу исключительно на основании внешнего поведения оцениваемой программы. Если ей в процессе общения удастся задурить ему голову так, что он примет ее за настоящего человека, стало быть, и интеллект у нее самый настоящий, хоть и без головы. Именно так говорил Тьюринг. В его оправдание можно предложить очевидное влияние главенствующей на тот момент парадигмы в психологии. Но и не только это. Не стоит забывать, что в его время разработка подобного рода софта казалась совершенно несбыточной фантастикой. Но сегодня мы собираемся подводить итоги обсуждения мыслительного эксперимента под названием «китайская комната». И сегодня уже я вынужден буду судить эту модель без малейших скидок на исторический контекст. И здесь я (надеюсь, что под всеобщие аплодисменты нашей аудитории) присуждаю победу по очкам Джону Сёрлу. На мой взгляд, ему удалось убедительно показать, что, хотя тест Тьюринга и является необходимым условием обнаружения интеллектуальности компьютеров, на достаточность он никак не тянет. Предположим, что диалог с человеком оказалось возможным реализовать посредством гигантского тупого перебора. В «голову» алгоритма и вовнутрь китайской комнаты все же придется заглянуть, чтобы убедиться в качественной осмысленности того, что там происходит — метода машинного «мышления».

Однако Джон пытался свалить вовсе не этот относительно хилый тезис, и даже не слабый, а т.н. сильный ИИ (Искуственный Интеллект). Напомню, что он под этим понимал утверждение об отсутствии всяких отличий между искусственным и естественным разумом. Удалось ли ему осуществить задуманное? Боюсь, что в данном случае истина мне дороже не менее чем Аристотелю. Доводы «системного ответа» (правда, не в изложении Дэниела Деннета) мне кажутся более убедительными. «Китайская комната» показала нам под микроскопом отсутствие осмысленности исполнения единичных инструкций компьютером. Однако отсюда напрямую не следует безнадежная тупость всего помещения как системы. Положим, самый настоящий белковый человек собирается отправиться из пункта А в пункт Б. Теперь, если мы покажем в замедленной съемке и приличном увеличении (до сюрреалистических масштабов) любой этап этого пути, то тоже получим совершенный маразм на каждом шаге. Положим, отправимся напрямую в мышцы. Тогда там мы увидим сигналы, отправленные на нервные окончания, подтягивание миозина и актина друг к другу, сокращение саркомера и т.д. Большого интеллекта для всей этой работы тоже не требуется. А ведь рассмотренное все целиком эти действия составляют вполне разумное перемещение в пространстве, которые мы исполняем пачками ежедневно.

Конечно же, Джон прекрасно понимал справедливость подобных доводов. Его главный контраргумент – т.н. интенциональность. А это что такое? Философское понятие, которое я, в принципе, не хотел бы вводить в лексикон нашего блога. Не хотел бы потому, что оно плохо ложится на русский язык. И еще потому, что его легко можно спутать с интенсиональностью (отличие всего в одной букве в середине). Но самое главное в том, что далеко не все слова, которыми мы оперируем, прагматически полезны. Это только кажется, что ментальная мебель – движимое имущество. На практике с ней зачастую приходится жить всю жизнь. Конкретно это слово, скорее всего, этимологически происходит из латинского выражения «intendere arcum in», что означает «метиться куда-то», а исторически этот термин потребовался в контексте психологии. Дело в том, что в описании нашего сознания, где постулировалось присутствие одних только пропозиций, их объектов и логических операций над ними, чего-то явно не хватало. С точки зрения ТМ это все мелкие ошметки наших моделей. Ну а если именно их принять за первооснову? Тогда становится очевидно, что мы еще что-то делаем со всем этим ментальным хламом. Например, верим во что-то, надеемся на что-то, любим кого-то, боимся или желаем чего-то, находим смысл в чем-то. Вот и было решено объединить под одной вывеской все такие понятия, у которых существует направленность на эти «что-то», «кого-то» или «чего-то». Т.н. «душевные движения», о которых мы много говорили на ранних стадиях развития БГБ, являются подклассом вышеизложенного. С моей точки зрения, это значительно более плодотворное понятие, поскольку я вижу его конкретное применение и в метафизике, и даже в этике. Однако ничего не поделаешь, теория интенциональности во многом развилась благодаря усилиям Джона Сёрла, поэтому нисколько не удивляет, что он размышляет именно в этих терминах. Так вот, именно эту ментальную направленность он и не нашел в манере функционирования искусственного интеллекта. Этот его тезис значительно более сложно опровергнуть, однако увы, в явном виде он никак не защищается при помощи рассматриваемого нами мыслительного эксперимента. Именно поэтому я отказался принять его в рассмотрение при вынесении своего приговора один параграф тому назад.

На вышестоящей точке я хотел бы выйти из «китайской комнаты» и немного подышать свежим воздухом мира моделей в ее окрестностях. В дискурсе вокруг и около сильного ИИ можно обнаружить не только сказания о сознательных компьютерах, но и целый ряд других, не менее сильных утверждений. В частности, меня лично задевает идея о том, что и в чисто когнитивной деятельности ИИ мощнее человека. Причем уже сейчас намного, а в перспективе и вовсе активно обсуждаются сценарии технического апокалипсиса. В них мы с Вами переходим в категорию домашних животных для роботов. В подтверждение этого тезиса приводятся бесспорные успехи ИИ в деле шахматной игры, уборки помещений, стрижки газонов и т.п. Интересно, что подобного рода вопросы интересовали философов задолго до возникновения компьютеров. И они отвергали эту идею как несостоятельную. Вот как, например, высказался Рене Декарт в «Рассуждении»: «Хотя … машины могли бы сделать многие вещи не хуже или даже лучше, чем люди, в некоторых других они неизбежно будут беспомощны. Причиной тому то, что разум – универсальный инструмент, в то время как органы машины должны быть организованы определенным образом для каждого определенного действия. Отсюда следует, что практически невозможно иметь столько различных устройств в машине, чтобы заставить ее вести себя в различных обстоятельствах жизни так, как это может разум». Конечно же, он в семнадцатом веке подразумевал под «машиной» совсем не то, что мы. Тем не менее, общий смысл его возражения на удивление современен.

Схожие мысли уже в пост-Тьюринговском ментальном пространстве двадцатого века высказывал английский философ Джон Лукас, а за ним ничуть не менее — английский математик Роджер Пенроуз. Дело в том, что существуют чисто теоретические пределы интеллектуальности ИИ — планка, выше которой прыгнуть ему не дано по своей природе. А вот люди, по их мнению, каким-то образом через нее спокойно сигают. Я желаю окрестить на БГБ-шном языке эту модель «слабосильный ИИ». Насколько она адекватна? И в самом деле, машина Тьюринга (по образу и подобию которой построены все наши компьютеры) имеет ряд особенностей. Она замечательно (и, самое главное, в сжатые сроки) выполняет конечную последовательность инструкций. При всем при этом она с трудом переносит алгоритмы, в которых надо справляться с комбинаторными взрывами и тем паче пасует перед бесконечностями. Было установлено (строго демонстративно доказано), что ряд задач (типа т.н. «проблемы остановки») решить она не может в принципе, а другие для нее NP-сложны (т.е. если их пытаться побороть тупым перебором, то на это уйдет слишком много времени). К этому классу задач относятся прежде всего те интеллектуальные занятия, которые мы называем творческими. Итак, в этой модели человек слаб в скорострельности, но силен в креативности. Напротив, компьютер силен быстродействием, но слаб гибкостью мышления. Так является ли ИИ на самом деле слабосильным?!

Главная Ахиллесова пята аргумента Лукаса-Пенроуза в том, что недостаточно корректно указать на слабость искусственного интеллекта, требуется еще проиллюстрировать фактами силу естественного. Для успеха этого предприятия было вполне достаточно одного единственного примера. Увы, они были оба сильны в математике, но не в истории… Надо бы дедушкам помочь, как Вы считаете?! И тут, на самом интересном месте — я опять не уложился в выделенный мне информационный квант… Ничего страшного. Продолжение следует в Блоге Георгия Борского…

Ответьте на пару вопросов
ИИ сильнее человека?
Сегодняшнюю статью я, пожалуй, начну с анекдота. Бородатого и пошлого. Мою доселе белоснежную репутацию, возможно, несколько спасет мотивация – желание проиллюстрировать с его помощью в сжатой и доходчивой форме суть одного популярного некогда направления в психологии. Итак, бихейворист говорит бихейвористочке непосредственно после акта большой любви: «Тебе было хорошо. А как было мне?»
Top