Евгений Корниенко
Быстрая адаптация требует способности предвидеть, а мотивом адаптации служат жизненные потребности организма. Искусственное сознание развивается из этих же свойств. Цель исследования: конструктивный поиск алгоритма сознания. Этюд "Бабочка и цветок" демонстрирует основы работы сознания.
Эта работа в основном была сделана в 1997 году. Я хотел разобраться, как работает сознание, используя конструктивный подход: идея считается достойной внимания, только если она подкреплена детальным алгоритмом, который должен работать уже сегодня, а не в неопределённом будущем.
В результате проработки и отбраковки многочисленных тупиковых идей пришлось отказаться от применения таких признанных инструментов, как нейронные сети и семантический анализ. Первоначальное сознание не требует (и не может возникнуть из современных искусственных) нейронных сетей, а язык появляется на поздних стадиях развития сознания. Вместе с тем, я считаю эти направления технически очень важными. После того, как построена активная система, способная обучаться и накапливать полезный опыт, её восприятие мира может быть значительно улучшено применением систем распознавания образов, основанных на нейронных сетях, а её разумность может быть повышена путём обучения с применением обоснованных семантических структур для передачи знаний. В моём алгоритме сознания возникают и развиваются структуры, похожие на нейронные сети, и ёмкие команды, похожие на слова.
Сознание возникает у животных как одно из средств, улучшающее их адаптацию к окружающей среде. Быстрая (по сравнению со временем жизни животного) адаптация требует способности предвидеть, а мотивом адаптации служат биологические жизненные потребности организма. Искусственная система, обладающая такими свойствами, тоже приобретает сознание.
В этой статье я стараюсь рассказать о работе сознания в "функциональном" стиле. Читатели с тренированным системным мышлением увидят за этим описанием взаимодействие объектов, которое может быть запрограммировано. Малая ресурсоёмкость алгоритма наводит меня на мысль, что весьма высокий уровень сознания, вплоть до сознания млекопитающих, может быть воплощён сегодня. Это послужило поводом написать вступительную статью "Опасно разумен".
Я недостаточно знаком с мировым опытом в области искусственного интеллекта, не претендую на новое слово, и заранее извиняюсь за повторение уже известных идей без соответствующих ссылок.
Алгоритм сознания, который я демонстрирую в этюде "бабочка и цветок", запоминает, структурирует, использует опыт и пытается удовлетворить свои желания. Он может быть встроен как в эфемерное существо на экране, так и в игрушечного робота. Но уровень его сознания, достигаемый без специального обучения, не превышает сознания селёдки. В результате обучения, например, различных игр, этот уровень может сравниться с сознанием мыши или даже кошки. Я уделял основное внимание "чистому" самообучающемуся сознанию, и пока ещё не разработал средств интерактивного обучения. В используемом алгоритме важен не столько мозг, сколько система взаимодействия с внешним миром.
Как устроено сознание? Какие процессы, механизмы, взаимодействующие объекты требуются, чтобы возникло сознание и осознание себя? Что нужно для изготовления не модели сознания, а просто сознания?
Обычно слово сознание применяется, как характеристика отдельного существа. Оно может "потерять сознание". А слово разум означает принципиальную способность быть сознательным. Например, "человек разумный". Есть и другие толкования. Но я не буду больше останавливаться на словах. Только на том, почему возможно сознание и как оно работает.
Неизвестно, как доказать, что человек думает.
Уверенность в том, что люди думают, основана на опыте и убеждённости в собственном сознании, а не на измерениях и логических выводах из них. Вот почему науке трудно подступиться к глубокому изучению сознания. Мы можем изучать мозг, нейроны, языки, поведение, но не сознание само по себе.
Мы наблюдаем не разум, а разумное поведение.
Раз уж мы не можем это точно доказать, то будем субъективно судить о наличии сознания у некоторого объекта по его поведению. При этом можно принять какое-то поведение за сознательное, а впоследствии выяснить, что это была ошибка. Но более надёжного способа у нас нет, и не будем терять время на его установление, если только это не окажется критичным для ответа на поставленные вопросы.
Сущность субъекта субъективна.
Человек относится к себе слишком предвзято. И хотя я считаю, что могу сделать полезные выводы о природе сознания на основании поведения людей, но я также уверен, что эти аргументы не убедительны (для людей). Поэтому будем рассматривать сознание других животных.
Поведение животного управляется его нервной системой.
Обычно, чем больше мозг животного, тем разумнее поведение этого животного. Нервная система, как и другие органы и системы организма, изобретена природой как одно из средств, обеспечивающих выживание вида. Развитие нервной системы и увеличение централизованного мозга произошло тоже в результате эволюционной борьбы за выживание. Но есть такие формы жизни, которые выживают и без нервной системы, например, растения.
Растения не живут, а выживают.
Сравним индивидуальное поведение растения и животного. Что, собственно, в их поведении способствует выживанию вида? Само слово поведение плохо подходит к растению. Растения проживают свой век без заметного проявления индивидуальных свойств. Выживаемость одного растения заключается в том, что оно способно вынести неблагоприятные условия, которые могут наступить в какой-то период жизни растения. Приспособляемость вида растений к изменяющимся условиям обеспечивается тем, что растения, которые плохо приспособлены к данным условиям, не выживают и не передают свои неудачные признаки потомству.
Животные способны улучшить свою жизнь.
Совершенно иначе относятся к неблагоприятным условиям животные, например, кошки и мышки. Они активно пытаются найти выход из положения. Собственно, это я и называю поведением. Поведение - это достаточно быстрая реакция в ответ на изменяющиеся внешние условия. Если плохие условия сохраняются долго, то кошка пытается приспособиться к ним. Она ищет правильное поведение в новой для неё обстановке. Но если все попытки улучшить ситуацию оказываются безнадёжными, то кошке, как и растению, остаётся только надеяться и терпеть.
Сложное поведение животных является проявлением условных и врождённых рефлексов. Это справедливо как для простых животных, вроде улитки, так и для наиболее смышлёных, вроде собаки. В отличие от растений, животные, имеющие нервную систему, способны приобретать условные, генетически не запрограммированные рефлексы, то есть обучаться.
Животные могут найти новое выгодное (то есть разумное?) поведение.
В некоторых случаях поведение, основанное на приобретённых рефлексах, настолько "разумно", что некоторые, например я, считают его разумным без кавычек. Является ли это поведение проявлением "настоящего" разума или лишь изощрённой адаптацией живого организма к меняющемуся миру, неизвестно, так как мы можем судить о разуме только по поведению, и не имеем конструктивного "индикатора наличия разума". А чем, если не адаптацией к миру вплоть до изменения мира по своим потребностям, является поведение человека?
Итак, условившись судить о разуме по поведению, мы можем признать два важных факта.
Суждение о наличии разума субъективно, вплоть до того, что некоторые люди считают поведение некоторых своих соплеменников несознательным.
Можно ввести субъективную шкалу разумности. Например, улитка, кошка и человек перечислены здесь в порядке увеличения разумности.
Не исключено, что разум начинается не с самого простейшего уровня организации нервной системы, а "возникает" при достаточном её развитии. Однако, пока нам не ясно, что такое разум, и не ясен механизм такого возникновения, будем считать, что все существа с нервной системой разумны. В частности, самые простые существа могут иметь "нулевую" или "исчезающе малую" разумность. Зато при таком подходе мы можем сравнить поведение многих животных, чтобы найти, что же именно в поведении данного животного кажется нам разумным. Это должны быть такие признаки, которые выявляются у всех без исключения животных. Явно разумность заключается не в том, что существо питается и размножается, потому что подобные признаки есть и у растений, которые, судя по отсутствию поведения, разумом не обладают.
Такие неплохие определения сознания, как способность к достижению цели, или к нахождению решения, или к принятию решения, нам тоже не подходят, так как они не конструктивны, в частности, не связаны однозначно с наблюдаемым поведением. "Цель" и "решение" сами определяются через сознание. Способность к общению с себе подобными, и формы такого общения "более наблюдаемы", но часто их трудно отличить от физического взаимодействия. Пример: перенос пыльцы.
По-моему, хорошим наблюдаемым критерием разумности является способность активно приспосабливаться к меняющимся окружающим условиям, то есть способность обучаться на основе своего опыта.
Самообучение - признак сознания.
Сознание - это внутреннее свойство, творческий мотор самообучающегося организма.
Начальное сознание возникает при такой организации нервной системы, которая обеспечивает возможность обучаться. Это ещё не то самосознание, которое заставляет вас уступить место старушке. Конструктивность этого определения состоит в том, что оно не ограничивает средства для изготовления "творческого мотора". Изобретите и создайте устройство, способное самообучаться - и оно получит сознание. Найдите способность к самообучению у робота, и этим будет доказано, что он обладает сознанием.