Предельная общность и широта применения понятии и методов теории множеств не только для развития фактического содержания математики, по и для обоснования ее на новом фундаменте со временем привели к господству в математике теоретико-множественных идей.
В 1902 г. Б. Рассел обнаружил парадокс, который непосредственно связан с канторовским определением понятия множества. Это определенно не запрещает рассматривать в качестве элементов множеств некоторые другие множества. Назовем такие множества необычными или лучше множествами второго рода. Примерами таких множеств могут служить множество множеств, каталогов библиотеки, множество множеств списков или вообще любое абстрактное множество множеств. К множествам первого рода, или обычным, относятся то, которые но содержат в качестве своих элементов множества. Так, множество звезд будет именно таким множеством.
Если теперь задать вопрос, к какому роду относится множество всех тех множеств, которые не содержат себя в качестве элемента, то на него можно дать два взаимоисключающих ответа.
Если допустить, что указанное множество (в дальнейшем называемое расселовским) относится к необычным, то оно, будучи элементом множества всех множеств, которые не содержат себя в качестве своего элемента, не должно принадлежать к необычным множествам. Следовательно, предположение о принадлежности расселовского множества к необычным множествам ведет к прямо противоположному результату: это множество должно принадлежать к обычным множествам. Исходя из полученного результата, легко обнаружить, что расселовское множество должно содержать себя в качестве элемента, т. е. оно должно принадлежать к необычным множествам. Выходит, что относительно множества всех множеств, не содержащих себя и качестве элемента, можно доказать дна прямо противоположных утверждения. Возникает парадокс.
Какой же вывод был сделан из первых парадоксов? Какие способы их устранения были предложены математиками? Многие математики, ознакомившись с парадоксами, в первое время просто их игнорировали, утверждая, что они представляют собой крайне искусственные построения. Поскольку ни в математическом анализе, ни в геометрии такие парадоксы не были обнаружены, то не слодует-де особенно беспокоиться о парадоксах, которые возникают на окраинах теории множеств. Ясно, однако, что такой подход нельзя считать удовлетворительным, ибо нет уверенности, что эти парадоксы не могут не возникнуть в анализе и геометрии, если они строятся на теоретико-множественной основе.
Наиболее радикально решение было предложено интуиционистами. Они подвергли критике идею актуальной бесконечности и основанную на ней канторовскую теорию множеств. Понятия «все» и «существует», но мнению основоположника интуиционизма Брауэра, нельзя применять к бесконечным множествам. Любое утверждение о существовании в бесконечном множестве элемента с определенными свойствами состоит в действительном указании такого элемента. Но очевидно, что нельзя перебрать все элементы бесконечного множества. Именно в связи с этим интуиционисты отказываются от актуальной бесконечности и возвращаются к бесконечности становящейся, потенциальной.
3. Абстракция потенциальной бесконечности.
Против допустимости идеи актуальной бесконечности в математике, а также тех логических средств, которые связаны с этой идеей (в частности, закона исключенного третьего), резко выступили представители интуиционистского направления в обосновании математики (Л. Брауэр, Г. Вейль), возникшего в первое десятилетие прошлого века. Принципиально исключая применение абстракции актуальной бесконечности, интуиционисты считают допустимым лишь понятие, потенциальной бесконечности.
Так, Брауэр утверждал, что о существовании математических объектов можно говорить лишь только в том случае, если принципиально возможно осуществить их вычисление или построение. Реализуя эту идею, они пытались построить основания математики, исходя из некоей присущей человеку праинтуиции, порождающей натуральный ряд чисел и из него — всю математику. И хотя в действительности возможность построения тех или иных объектов всегда ограничена определенными условиями (наличие соответствующего материала, времени, пространства и т. п.), в теории можно отвлечься от этих ограничений. Надо заметить, что воснове понятия потенциальной бесконечности лежит гипотеза потенциальной осуществимости.
Эта гипотеза допускает построение не только таких объектов, которые можно осуществить практически (хотя бы в принципе), но и объектов потенциально осуществимых, т. е. осуществимых при предположении, что исследователь обладает для этого соответствующими возможностями. Ясно, что такое предположение представляет собой абстракцию: оно огрубляет, схематизирует действительное положение вещей, поскольку реальная возможность построения объектов всегда ограничена определенными рамками.
Можно ввести понятие потенциальной бесконечности как неограниченного процесса построения математических объектов, который не имеет последнего шага. Действительно, гипотеза потенциальной осуществимости допускает, что после n шага всегда возможен n+1 шаг. А это означает, что в принципе допустимо существование безграничного процесса, или потенциальной бесконечности. Элементы такой бесконечности не существуют одновременно, они последовательно возникают в процессе построения. Именно так и воспринимается натуральный ряд чисел как ряд, начинающийся с 1, последовательно переходящий к числам 2, 3, 4... и не имеющий последнего члена. Требуется немалое усилие, чтобы представить этот ряд в виде закопченного множества чисел. Это показывает, что сама идея потенциальной бесконечности интуитивно значительно яснее, чем идея актуальной бесконечности. Поэтому логично предположить, что именно идея потенциальной бесконечности первоначально возникла в математике.
В античной науке формулировку понятия потенциальной бесконечности встречается впервые у Анаксагора (VI в. до н. э.). Рассматривая вопрос о делимости тел, он писал: «В малом не существует наименьшего, но всегда имеется еще меньшее. Ибо то, что существует, не может исчезнуть, как бы далеки ни были продолжено деление»[1, c.128-129]. Процесс деления здесь анализируется в абстрактной форме, так как при этом отвлекаются, во-пepвыx, от качественных особенностей процесса, когда чисто количественное уменьшение тела приводит к новым качественным элементам (молекула, атом, «элементарные» частицы); во-вторых, от практических возможностей осуществления процесса, т. е. бесконечная делимость рассматривается как потенциально осуществимый процесс. Такой абстрактный подход к вопросу о делимости материи встретил серьезные возражения со стороны древнегреческих атомистов. Допуская неограниченную делимость тел, указывали атомисты, исследователь тем самым предполагает возможность дойти в этом процессе до точек, поскольку «в малом не существует наименьшего». Следовательно, любую часть тела можно делить дальше и в конечном итоге дойти до точек. Но тогда тела но останется: оно должно было бы состоять из точек, что очевидно нелепо.
Следует еще раз подчеркнуть, что потенциальная бесконечность представляет собой значительную идеализацию действительных процессов. Поэтому нельзя требовать, чтобы эта бесконечность существовала в реальном мире именно с теми свойствами, которые ей приписывает математика. Ведь никто не ищет в природе точек, прямых и плоскостей и том виде, как они существуют в геометрии. Между тем известный американский специалист по математической логике X. Карри, основываясь на том, что «в нашем окружении нет ничего, соответствующего идее бесконечности», делает вывод о несостоятельности «реалистической точки зрения на математику».
Гильберт справедливо критикует неверное представление о неограниченной делимости тел, при которой всякая сколь угодно малая их часть обладает свойствами первоначального тела. В известной статье «О бесконечном», опираясь на теорию атомного строения материи и открытие квантов энергии, он делает вывод, что «однородный континуум, который должен был бы допускать неограниченное деление и тем самым реализовать бесконечное в малом, в действительности нигде не встречается»[1].
Бесконечная делимость континуума представляет собой операцию, существующую лишь в мышлении. Естественно поэтому, что понятие потенциальной бесконечности, которое допускает такую возможность, не может претендовать на адекватное описание физического процесса деления материи. При таком процессе объект не только количественно уменьшается, но и качественно изменяется. В современном естествознании мельчайшей частицей вещества принято считать молекулу. Деление молекул дает новые качественные образования — атомы, которые существенно отличаются от молекул. Разложение атома дает различные элементарные частицы, также качественно отличающиеся от атомов. Все это показывает, что процесс деления материи всегда связан с качественными ее изменениями. Понятие же потенциальной бесконечности, как и любое другое математическое понятие, отвлекается, абстрагируется от качественных особенностей явлений и процессов, рассматривает их в «чистом», идеализированном виде. Вполне понятно поэтому, что такое бесконечное не может существовать в природе.
Однако, отрицая объективный характер математической бесконечности, приписывая ей роль априорной идеи в духе Канта, он делает уступку идеализму. Впрочем, более внимательный анализ показывает, что для Гильберта бесконечность, как и любое другое идеальное высказывание математической теории, представляет прежде всего форму всеобщности. Одна из плодотворных идей его теории доказательства состоит в том, чтобы свести математику «к совокупности формул, во-первых, такиx, которым соответсвуют содержательные сообщения конечных высказываний, т. е. по существу числовых равенств и неравенств, и, во-вторых, других формул, которые сами по себе никакого значения не имеют и которые являются идеальными образами нашей теории».