№18 Слабосильный ИИ

Сегодняшнюю статью я, пожалуй, начну с анекдота. Бородатого и пошлого. Мою доселе белоснежную репутацию, возможно, несколько спасет мотивация – желание проиллюстрировать с его помощью в сжатой и доходчивой форме суть одного популярного некогда направления в психологии. Итак, бихейворист говорит бихейвористочке непосредственно после акта большой любви: «Тебе было хорошо. А как было мне?» А теперь поясню, над чем именно надо смеяться. Бихейворизм как программа научных исследований возник в продолжение традиций эмпиризма (его корни простираются как минимум до Дэвида Юма). Во многом это был протест против засилья мощных в те времена спекулятивных моделей фрейдизма. Его основной тезис был очень прост – редукция психики к внешне наблюдаемому поведению (behavior по-английски, откуда и происходит название). Другими словами, что там внутри происходит – не суть важно. Все, что нас интересует, регистрируется наблюдениями со стороны (именно в этом соль вышеприведенной шутки). Формула «стимул – реакция» была предложена как шаблон, который был способен описать без исключений все аспекты жизни без исключений всех живых существ. Практически вся первая половина прошлого века прошла под знаком доминирования этих моделей. А потом, уже в районе шестидесятых, грянула когнитивная революция, запущенная рядом публикаций, в которых выделялись работы Ноама Хомского. От этого мы стали просвещенные и теперь полагаем, что все же имеет смысл просветить тот черный ящик, который расположен у нас в голове. Теперь мы обнаружили внутри него много черных ящичков поменьше, и так далее матрешкой вплоть до самого низа. Теперь мы проводим время за рисованием многочисленных квадратиков, соединенных стрелочками между собой (философы с некоторым презрением именуют это занятие boxology — квадратикологией).

Однако в то далекое послевоенное время, когда знаменитый Алан Тьюринг предложил свой не менее знаменитый тест по проверке искусственно сделанной интеллектуальности, это его счастливое будущее, ставшее нашим с Вами заурядным настоящим, еще зрело в телах ментальных моделей будущих героев когнитивного прорыва. Поэтому неудивительно, что предложенный им критерий изрядно попахивал бихейворизмом. Ведь тот судья, которого он предложил нанять на должность эксперта, должен был вынести вердикт по этому поводу исключительно на основании внешнего поведения оцениваемой программы. Если ей в процессе общения удастся задурить ему голову так, что он примет ее за настоящего человека, стало быть, и интеллект у нее самый настоящий, хоть и без головы. Именно так говорил Тьюринг. В его оправдание можно предложить очевидное влияние главенствующей на тот момент парадигмы в психологии. Но и не только это. Не стоит забывать, что в его время разработка подобного рода софта казалась совершенно несбыточной фантастикой. Но сегодня мы собираемся подводить итоги обсуждения мыслительного эксперимента под названием «китайская комната». И сегодня уже я вынужден буду судить эту модель без малейших скидок на исторический контекст. И здесь я (надеюсь, что под всеобщие аплодисменты нашей аудитории) присуждаю победу по очкам Джону Сёрлу. На мой взгляд, ему удалось убедительно показать, что, хотя тест Тьюринга и является необходимым условием обнаружения интеллектуальности компьютеров, на достаточность он никак не тянет. Предположим, что диалог с человеком оказалось возможным реализовать посредством гигантского тупого перебора. В «голову» алгоритма и вовнутрь китайской комнаты все же придется заглянуть, чтобы убедиться в качественной осмысленности того, что там происходит — метода машинного «мышления».

Однако Джон пытался свалить вовсе не этот относительно хилый тезис, и даже не слабый, а т.н. сильный ИИ (Искуственный Интеллект). Напомню, что он под этим понимал утверждение об отсутствии всяких отличий между искусственным и естественным разумом. Удалось ли ему осуществить задуманное? Боюсь, что в данном случае истина мне дороже не менее чем Аристотелю. Доводы «системного ответа» (правда, не в изложении Дэниела Деннета) мне кажутся более убедительными. «Китайская комната» показала нам под микроскопом отсутствие осмысленности исполнения единичных инструкций компьютером. Однако отсюда напрямую не следует безнадежная тупость всего помещения как системы. Положим, самый настоящий белковый человек собирается отправиться из пункта А в пункт Б. Теперь, если мы покажем в замедленной съемке и приличном увеличении (до сюрреалистических масштабов) любой этап этого пути, то тоже получим совершенный маразм на каждом шаге. Положим, отправимся напрямую в мышцы. Тогда там мы увидим сигналы, отправленные на нервные окончания, подтягивание миозина и актина друг к другу, сокращение саркомера и т.д. Большого интеллекта для всей этой работы тоже не требуется. А ведь рассмотренное все целиком эти действия составляют вполне разумное перемещение в пространстве, которые мы исполняем пачками ежедневно.

Конечно же, Джон прекрасно понимал справедливость подобных доводов. Его главный контраргумент – т.н. интенциональность. А это что такое? Философское понятие, которое я, в принципе, не хотел бы вводить в лексикон нашего блога. Не хотел бы потому, что оно плохо ложится на русский язык. И еще потому, что его легко можно спутать с интенсиональностью (отличие всего в одной букве в середине). Но самое главное в том, что далеко не все слова, которыми мы оперируем, прагматически полезны. Это только кажется, что ментальная мебель – движимое имущество. На практике с ней зачастую приходится жить всю жизнь. Конкретно это слово, скорее всего, этимологически происходит из латинского выражения «intendere arcum in», что означает «метиться куда-то», а исторически этот термин потребовался в контексте психологии. Дело в том, что в описании нашего сознания, где постулировалось присутствие одних только пропозиций, их объектов и логических операций над ними, чего-то явно не хватало. С точки зрения ТМ это все мелкие ошметки наших моделей. Ну а если именно их принять за первооснову? Тогда становится очевидно, что мы еще что-то делаем со всем этим ментальным хламом. Например, верим во что-то, надеемся на что-то, любим кого-то, боимся или желаем чего-то, находим смысл в чем-то. Вот и было решено объединить под одной вывеской все такие понятия, у которых существует направленность на эти «что-то», «кого-то» или «чего-то». Т.н. «душевные движения», о которых мы много говорили на ранних стадиях развития БГБ, являются подклассом вышеизложенного. С моей точки зрения, это значительно более плодотворное понятие, поскольку я вижу его конкретное применение и в метафизике, и даже в этике. Однако ничего не поделаешь, теория интенциональности во многом развилась благодаря усилиям Джона Сёрла, поэтому нисколько не удивляет, что он размышляет именно в этих терминах. Так вот, именно эту ментальную направленность он и не нашел в манере функционирования искусственного интеллекта. Этот его тезис значительно более сложно опровергнуть, однако увы, в явном виде он никак не защищается при помощи рассматриваемого нами мыслительного эксперимента. Именно поэтому я отказался принять его в рассмотрение при вынесении своего приговора один параграф тому назад.

На вышестоящей точке я хотел бы выйти из «китайской комнаты» и немного подышать свежим воздухом мира моделей в ее окрестностях. В дискурсе вокруг и около сильного ИИ можно обнаружить не только сказания о сознательных компьютерах, но и целый ряд других, не менее сильных утверждений. В частности, меня лично задевает идея о том, что и в чисто когнитивной деятельности ИИ мощнее человека. Причем уже сейчас намного, а в перспективе и вовсе активно обсуждаются сценарии технического апокалипсиса. В них мы с Вами переходим в категорию домашних животных для роботов. В подтверждение этого тезиса приводятся бесспорные успехи ИИ в деле шахматной игры, уборки помещений, стрижки газонов и т.п. Интересно, что подобного рода вопросы интересовали философов задолго до возникновения компьютеров. И они отвергали эту идею как несостоятельную. Вот как, например, высказался Рене Декарт в «Рассуждении»: «Хотя … машины могли бы сделать многие вещи не хуже или даже лучше, чем люди, в некоторых других они неизбежно будут беспомощны. Причиной тому то, что разум – универсальный инструмент, в то время как органы машины должны быть организованы определенным образом для каждого определенного действия. Отсюда следует, что практически невозможно иметь столько различных устройств в машине, чтобы заставить ее вести себя в различных обстоятельствах жизни так, как это может разум». Конечно же, он в семнадцатом веке подразумевал под «машиной» совсем не то, что мы. Тем не менее, общий смысл его возражения на удивление современен.

Схожие мысли уже в пост-Тьюринговском ментальном пространстве двадцатого века высказывал английский философ Джон Лукас, а за ним ничуть не менее — английский математик Роджер Пенроуз. Дело в том, что существуют чисто теоретические пределы интеллектуальности ИИ — планка, выше которой прыгнуть ему не дано по своей природе. А вот люди, по их мнению, каким-то образом через нее спокойно сигают. Я желаю окрестить на БГБ-шном языке эту модель «слабосильный ИИ». Насколько она адекватна? И в самом деле, машина Тьюринга (по образу и подобию которой построены все наши компьютеры) имеет ряд особенностей. Она замечательно (и, самое главное, в сжатые сроки) выполняет конечную последовательность инструкций. При всем при этом она с трудом переносит алгоритмы, в которых надо справляться с комбинаторными взрывами и тем паче пасует перед бесконечностями. Было установлено (строго демонстративно доказано), что ряд задач (типа т.н. «проблемы остановки») решить она не может в принципе, а другие для нее NP-сложны (т.е. если их пытаться побороть тупым перебором, то на это уйдет слишком много времени). К этому классу задач относятся прежде всего те интеллектуальные занятия, которые мы называем творческими. Итак, в этой модели человек слаб в скорострельности, но силен в креативности. Напротив, компьютер силен быстродействием, но слаб гибкостью мышления. Так является ли ИИ на самом деле слабосильным?!

Главная Ахиллесова пята аргумента Лукаса-Пенроуза в том, что недостаточно корректно указать на слабость искусственного интеллекта, требуется еще проиллюстрировать фактами силу естественного. Для успеха этого предприятия было вполне достаточно одного единственного примера. Увы, они были оба сильны в математике, но не в истории… Надо бы дедушкам помочь, как Вы считаете?! И тут, на самом интересном месте — я опять не уложился в выделенный мне информационный квант… Ничего страшного. Продолжение следует в Блоге Георгия Борского…