Программы порой столь совершенны, что в решении поставленных задач средний человек не может с ними тягаться. Например, есть программы, ищущие и доказывающие новые теоремы математической логики, а современные шахматные программы может не обыграть даже хороший гроссмейстер.
Искусственный интеллект и робототехника базируются на компьютерах и развиваются почти так же стремительно, как и компьютеры, ибо зависят от быстродействия и памяти последних. Быстро развивается и производство промышленных роботов.
Если прогресс электроники будет продолжаться такими, же темпами (а никаких оснований к снижению их не предвидится), то в ближайшие 50...100 лет, максимум к концу следующего 21-го столетия, электронные компьютеры по своим возможностям сравняются с человеческим мозгом. Путь, который потребовал у биологического человечества десятки миллионов лет, они пройдут за полтора – два столетия.
Ну и что?
Скажет иной читатель. Замечательно? Мы получим великолепных слуг, роботов свободных от человеческих страстей и эмоций, которые не будут требовать повышения зарплаты, пищи, зрелищ и бытовых удобств, поддаваться национальным или религиозным страстям, устраивать войны и резню друг друга. Единственной их заботой будет работа и служба человечеству!
Вот тут и кроется главное заблуждение. Развитие электронного мозга на этом не остановится. Наступит стадия самосовершенствования, которая пойдет в миллионы раз быстрее, чем совершенствование человеческого мозга путем биологического отбора. Да и совершенствуется ли в настоящее время человеческий мозг? Судя по тому, как мы усердно выхаживаем умственно отсталых и неизлечимо больных людей, процесс естественного отбора среди человечества давно закончился. Даже если правительства пренебрегут протестами сторонников всеобщего равноправия и перейдут к селективному отбору и размножению гениев или хотя бы просто талантливых людей, по образцу того, как мы сейчас выводим высокопродуктивных коров и других полезных животных, этот процесс займет сотни лет. Прибавьте к этому подготовку ученого, которая даже в узкой области отнимает 20...30 лет, Да и решит ли это проблему? Допустим, через 100...200 лет мы сможем «вывести породу гениев», коэффициент умственного развития которых будет в 2, 3, пусть даже в 5...10 раз выше, чем самых умных представителей человечества в настоящее время. (Кстати, а что тогда делать с рядовыми гражданами? Сделать их прислугой у гениев?) Усовершенствование биологической системы, на которое мы потратим сотни лет, у электронного мозга займет не более нескольких месяцев...
За короткое время электронный мозг превзойдет человеческий в сотни и тысячи раз. Ему не надо будет тратить десятки лет на освоение той или иной области знания, изучение иностранных языков, истории. опытных данных, материалов конференций или дискуссий ученых. Он сможет пользоваться всей базой данных, суммой знаний. накопленных человечеством за всю историю Земли, и процесс «обучения» любой отрасли знания или языку будет занимать ровно столько времени, сколько занимает перезапись в свою индивидуальную память базы данных или программ. В настоящее время. в самом худшем случае, такая перезапись требует минуты, а в будущем хватит и доли секунды.
Научный и технологический прогресс резко ускорится. И что же отсюда вытекает? А то, что, как только электронный мозг достигнет человеческого уровня, получится, что человечество выполнило свою историческую миссию и не нужно более ни природе, ни Богу, ни простой целесообразности.
Возможные возражения
Я чувствую, какую бурю негодования. критики и просто злобы вызовет предыдущая мысль. Но ход развития нашей цивилизации (и вообще цивилизаций всех уровней) не зависит от наших чувств и эмоций. Задача ученого – проанализировать холодным умом ситуацию, ход процесса и предсказать возможные последствия или хотя бы направление развития событий, с неизбежностью вытекающих из самых общих закономерностей природы. В предыдущих рассуждениях мы, собственно говоря, пользовались законом непрерывного усложнения систем (т.е. неизбежного возникновения систем более высокого уровня), если они обладают свойством воспроизводства себе подобных. Этот закон и привел к созданию человеческого разума, наивысшего разума на данный момент в известной нам части Вселенной.
Все возможные возражения против главной мысли предыдущего раздела можно подразделить на две категории: технические и эмоциональные.
Первое возражение, к которому пришло большинство участников дискуссии 50...60-х годов: искусственный разум невозможен, ибо человеческий мозг чрезвычайно сложен, компьютеры всегда будут работать только по заложенной в них программе и т.п. – просто несерьезное. Все предсказания прошлого о технической невозможности чего-то (если только они не опирались на фундаментальные законы природы, например предсказание невозможности создания вечного двигателя) оказывались неверными.
Степень сложности электронного мозга растет так стремительно, что превзойдет многократно степень сложности человеческого мозга в ближайшем будущем.
То, что электронный мозг работает по определенной программе, не недостаток. Человеческий мозг также работает (возможно, со случайными отклонениями) по определенной программе, заложенной в нас воспитанием, образованием, жизненным опытом, программе, изменяемой под влиянием внешних обстоятельств. Программа, по которой будет работать электронный мозг, также может меняться. Уже в настоящее время создаются самосовершенствующиеся программы и просто программы по созданию других программ. И если человек не в состоянии учесть влияние тысячи факторов, а тем более точно рассчитать конечный результат, мгновенно скорректировать свои действия, то для электронного мозга это не составит никакого труда. Хотя бы в силу этого обстоятельства решения электронного мозга будут более точны, сбалансированы и правильны.
Скептики обычно говорят: компьютер никогда не сможет заниматься творческим трудом, например, создавать высокохудожественные произведения, писать картины, музыку, открывать новые физические принципы и законы. Высокохудожественные книги, стихи, картины, кино и музыка электронному мозгу и ни к чему –это чисто человеческая (эмоциональная) потребность. Хотя и сейчас есть программы даже для персональных компьютеров, пишущие стихи и музыку. Что же касается открытия новых принципов и физических законов, построения новых теорий, то тут человек не сможет тягаться с мозгом более высокого уровня.
Эмоциональные возражения мы вообще обсуждать не будем.
Рая не будет
Большинство людей думает, что с созданием электронного мозга и начнется рай для человечества. Роботы, управляемые электронным мозгом, будут без отдыха трудиться, создавая изобилие благ. А человечество будет тратить время на удовольствия, развлечения, искусство, командовать электронными мозгами или, в лучшем случае, заниматься творческим трудом.
Очередное и глубокое заблуждение. Не было в истории и никогда не будет ситуации, чтобы высший умственный уровень был слугой у более низкого уровня. Весь мир микроорганизмов, растений и животных – это наши предки. Но служим ли мы прислугой даже у ближайших сородичей – человекообразных обезьян? Ни у одного человека даже мысли такой не возникает. Человек (и то не всякий и не всегда) готов признать равноправным с ним другого человека, то есть существо того же умственного уровня, но никогда не признает за таковых обезьян. Более того, мы без всяких угрызений совести разводим полезных нам животных, убиваем их, когда нужно, употребляем в пищу, без пощады уничтожаем вредные растения и микроорганизмы. А на ближайших сородичах – обезьянах проводим медицинские опыты и проверяем новые препараты. И это при том, что все мы относимся к одной биологической формации.
А как к человечеству будет относиться формация (цивилизация), построенная на совершенно другом, несравненно более высоком электронном принципе? Да точно так же, как мы относимся к более низким уровням: использовать, когда мы им полезны, и уничтожать, когда будем мешать.
С созданием электронного мозга (Е-мозга – под этим выражением я буду подразумевать мозг, равный или превосходящий человеческий, включая мозг исполнителей команд Е-мозга – роботов) начнется конец человеческой цивилизации. Вытеснение нас в резервации, по-видимому, будет постепенным, но недолгим. Хотя, возможно, Е-мозги на первых порах что-то и сделают для людей, чтобы заглушить недовольных и привлечь правителей и обывателей на свою сторону.
Что делать?
Перспектива, нарисованная в предыдущей главе, что и говорить, безрадостная.. И я уже слышу голоса апологетов человечества: если немедленно не уничтожить все вычислительные машины, то хотя бы держать их развитие под строгим контролем и создавать только такие ЭВМ, которые бы подчинялись закону Азимова – в первую очередь заботиться и спасать человека, а во вторую – думать о себе.
Увы, это так же невозможно, как невозможно запретить какими-то законами прогресс науки и техники. То государство, которое это сделает, неизбежно в техническом развитии станет жертвой других, более развитых государств. Вспомним, как европейцы завоевали Америку и свели почти до нуля коренное население. Произошло это благодаря их более высокой технической оснащенности. Опереди американские индейцы в своем техническом развитии европейцев, создай корабли, пушки, ружья раньше Европы, и мы бы имели обратную картину.
Поэтому попытки государств или, в силу религиозных канонов, отдельных народов создавать какие-то препятствия (или просто не тратить средства) и не поощрять развитие науки и техники всегда кончались и будут кончаться плохо Для этих государств и народов.
Но возможно ли удержать Е-мозг под контролем?
В связи с этим я задал бы воображаемому собеседнику такой вопрос: «А могли бы человекообразные обезьяны держать под контролем людей, если бы им дали такое право?» Да человек, будучи во много раз умнее (а значит, и хитрее) обезьян, всегда сумел бы избавиться от такого контроля, более того, поработил бы и заставил служить обезьян своим интересам, беспощадно уничтожая тех, кто стал бы препятствовать его планам. Так почему Е-мозг станет поступать с нами иначе?