Когнитивная наука Основы психологии познания том 2 Величковский Б М (стр. 86 из 118)

Но все же, как правило, в большинстве случаев традиционные экспертные системы остаются на уровне прототипов, не превращаясь в коммерческий продукт. Их применимость ограничивается проблемой юридической ответственности, как в случае неправильно поставленного медицинского диагноза, а также недостаточной гибкостью. Одной из неприятных особенностей практически всех систем является возникающее вблизи границ области экспертизы «обвальное» ухудшение результатов. Надежды возлагаются поэтому на гибридные архитектуры, прежде всего на искусственные нейронные сети. Последние демонстрируют при ухудшении условий работы плавное снижение эффективности (англ. graceful degradation — см. 2.3.2).

Вопрос состоит в том, можно ли, в свете этих данных, считать правильным вычислительное понимание мышления и, шире, познания? В отношении самих процессов, ведущих к решению, в этом нет никакой уверенности. В литературе сосуществует множество различных систем описания вычислений, и они постоянно развиваются, как, например, в случае возникших сравнительно недавно языков объектно-ориентированного программирования {ООП). Основное в этих языках — сохранение внешней формы при изменении свойств: программные структуры меняют свое содержание в зависимости от того, какие «объекты» (либо, в более современной, но менее адекватной терминологии, «классы») подставляются в них¹⁴. Однако в целом развитие логических оснований вычислительного подхода имеет собственную динамику. Оно направлено не на симуляцию человеческих достижений, а на их дополнение, причем акцент делается на способности вычислительных устройств к чрезвычайно быстрому перебору вариантов¹⁵.

¹⁴ При этом на экране может оставаться та же привычная картинка, что, конечно же,
удобно для человека-пользователя. ООП привлекательно тем, что оно сделало шаг на
встречу простейшим аксиомам психологии человека. Внешняя идентичность при изме
нении функционального содержания соответствует, в частности, смене социальных ро
лей одной и той же личности. Интересно, что для этого шага создателям ООП пришлось
отказаться от числовых структур как основы и перейти к понятиям более высоких типов.
Если в обычном программировании преобразуются данные, то в ООП преобразуются
функции и действия над «объектами».

¹⁵ Исследователям всегда было свойственно считать достигнутый в их время техни
ческий аппарат идеальным средством объяснения функционирования мозга и психики
(Бернштейн, 2003). В начале 20-го века такой моделью считалась телефонная станция,
позднее возникли аналогии с радиопередачей, голографией, архитектурой компьютера и

306 _все новыми разновидностями компьютерных программ. Трудно сказать, какие возмож-

С точки зрения сравнения результатов искусственных и естественных интеллектуальных достижений, ответ, несомненно, выглядит иначе. В ряде случаев, как, например, в случае компьютерных программ игры в шахматы, программные системы явно превзошли человека¹⁶. Это развитие было предсказано свыше полувека назад. В 1950 году Алан Тьюринг опубликовал статью «Вычислительные машины и интеллект», где он высказал предположение, что к концу 20-го века достижения программируемых компьютеров сравняются с результатами решения задач человеком (см. 2.1.1).

В той же классической статье Тьюрингом была описана процедура возможной проверки такого соответствия. Эта процедура известна сегодня как тест Тьюринга. Если в диалоге с невидимым партнером человек не может достоверно определить, имеет ли он дело с собратом по разуму или же с вычислительным устройством, то последнее успешно выдержало этот тест. В ряду серьезных и полусерьезных попыток проведения теста Тьюринга выделяются эксперименты известного критика работ в области искусственного интеллекта Дж. Вейценбаума (1982) с относительно простой, включавшей всего лишь несколько сот строчек текста программой ELISA, которая позволяла длительное время поддерживать заочный диалог с человеком. При этом она производила на собеседников впечатление живого человека. Позднее (и опять же скорее в критических целях) Вейценбаум адаптировал свою программу для целей роджериан-ской психотерапии, назвав ее DOCTOR. Многие участники опытов Вейценбаума не только не чувствовали дискомфорта, но и предпочитали иметь дело с компьютером, а не с реальным психотерапевтом.

9.2.2 Философия искусственного интеллекта

Слабость теста Тьюринга состоит в том, что это бихевиористский тест. Для когнитивной науки важен анализ интенций и ментальных репрезентаций, обеспечивающих решение задачи. Неоменталистским ответом на тест Тьюринга и успехи вопросно-ответных программ стал мысленный эксперимент, описанный американским философом Джоном Сёрлом (Searle, 1991). Он предложил представить человека, находящегося в закрытом помещении. Через щель в комнату поступают письменные вопросы на китайском языке, о котором этот человек не имеет ни

ности для аналогий могут возникнуть в среднесрочной перспективе (см. 9.4.3). С задачей когнитивного моделирования в настоящее время непосредственно связано только развитие в области искусственных нейронных сетей (см. 2.3.3).

·" В 1997 году компьютерная программа впервые выиграла партию у чемпиона мира по
шахматам. Интересно, что соответствующие программмы игры го далеко не столь сильны.
Важнейшей причиной этого является более высокая комбинаторная сложность этой игры,
ставящая перед компьютером (и программистом) проблему практической вычислимости. 307

308

малейшего представления. Ему также не известна тематика вопросов. К счастью, при нем находится достаточно полный китайско-китайский толковый словарь. Найдя в словаре иероглифы, соответствующие толкованию иероглифов в записках, герой этой истории записывает их в качестве ответа и передает обратно через дверную щель. Для внешнего наблюдателя весь процесс может выглядеть как участие закрытого в «китайской комнате» человека в дискуссии экспертов... по истории средневекового Китая. Проблема, однако, состоит в том, что, симулируя работу компьютера и практически решая коммуникативную задачу, человек в комнате совершенно не осознает интенциональное содержание своей деятельности.

Это феноменологическое рассуждение (если нет интенционально-сти, то нет сознания, а следовательно, нет и человеческого мышления) служит одним из нескольких обсуждаемых в литературе радикальных аргументов против применения вычислительного подхода в психологии и против самой возможности построения искусственного интеллекта. Но аргументация Сёрла не безупречна. Слабым ее пунктом является рассмотрение заведомо ограниченной системы индивидуального сознания и мышления. Хотя человек в комнате, по определению, ничего не знает о содержании принимаемых и передаваемых сообщений, нельзя отрицать, что фактической основой его работы служит глубокое понимание языка и тематики обсуждения создателями толкового словаря и участниками ведущейся дискуссии. Используя нейрокогнитивную аналогию, можно уподобить сёрловского оператора частной подсистеме большого мозга. Так, зона Брока, играя важную роль в экспрессивном речевом общении (см. 7.3.3), тоже, по-видимому, «не понимает» намерений и содержания речи своего обладателя.

В последние десятилетия стали появляться примеры, как бы зеркально симметричные аргументу Сёрла. Речь идет об успешном решении задачи компьютером при отсутствии понимания природы этого решения человеком. Самым известным примером такого рода является доказательство теоремы о четырех красках. Еще в середине 19-го века было высказано предположение, что для раскраски карты таким образом, чтобы две имеющие общую границу области (страны) имели разную окраску, должно быть достаточно четырех красок. Несмотря на усилия выдающихся математиков, эта теорема не могла быть доказана вплоть до 1977 года, когда ее «доказала» относительно простая компьютерная программа, написанная К. Аппелем и В. Хакеном. Путем исчерпывающего перебора множества возможных сочетаний границ, программа продемонстрировала, что во всех случаях четырех красок действительно оказывается достаточно. Профессиональное сообщество математиков отнеслось к этому событию с большой долей скепсиса, так как, во-первых, остались непонятными концептуальные основания данного вывода, а во-вторых, любая программа, как было ясно уже в то время (до появления продукции фирмы Microsoft), может содержать

ошибку. Собственно «человеческое» доказательство теоремы появилось лишь спустя 20 лет, в 1997 году (MacKenzie, 2001).

Ситуации непонятности машинного решения для человека возникают, например, при распознавании объектов с помощью искусственных нейронных сетей, поскольку характер изменений в сетях в процессе обучения слишком сложен, чтобы его можно было затем проследить аналитически. Более того, эпизоды непонимания содержания производимых компьютерными системами операций и вытекающих из них выводов весьма частотны в реальной жизни — как в профессионально-технологическом контексте (проблема ситуативного сознания у пользователей полуавтоматизированных систем — см. 2.1.2), так и во все большей мере в повседневных бытовых условиях. Непонимание возникает здесь, в конечном счете, между пользователем и разработчиком технических систем. Но стремительное усложнение этих систем и их намечающееся автономное взаимодействие — автомобилей между собой и со знаками дорожного движения, домашних приборов с системой энергообеспечения дома и т.д. — заставляет и самих разработчиков опираться на компьютерные средства поддержки программирования и принимаемых при этом решений (как в случае систем CAD — Computer Aided Design).