ВТОРАЯ РЕВОЛЮЦИЯ В МАТЕМАТИКЕ?

Аннотация

В статье обсуждается становление и развитие теории категорий, одного из наиболее глубоких направлений современной математики. Описываются истоки этой теории, связанные с алгебраической геометрией и алгебраической топологией. Анализируется три этапа ее развития: от средства для описания частных математических теорий и связей между ними к самодостаточному направлению, независимому от теоретико-множественного аппарата, и далее - к разработке новых оснований математики.

Полный текст

Математик - это тот, кто умеет находить аналогии между утверждениями; лучше математик - тот, кто может увидеть аналогии между доказательствами; самый лучший математик - тот, кто замечает аналогии между теориями; но можно представить себе и такого, кто между аналогиями видит аналогии. Стефан Банах В 1961 г. один из наиболее авторитетных математиков середины ХХ в. Жан Дьёдонне, выступил с беспрецедентным заявлением. В частности, он сказал: «Возможно, сейчас математика стоит на пороге второй революции… оценивать область применения и все последствия которой еще рано». Под первой революцией определенно подразумевалась теория множеств, радикально преобразившая всю математику. Действительно, в настоящее время все разделы математики прямо или косвенно восходят к теории множеств. Но что же такое могло показаться ему второй революцией? Речь шла несомненно о теории категорий, появившейся незадолго до этого. С тех пор минуло уже более полувека. А признаков революции, скольконибудь сопоставимой с теми тектоническими сдвигами, которые произошли в математике под влиянием теории множеств, как будто не просматривается. Складывается впечатление, что Дьёдонне несколько поторопился со своим прогнозом. Однако что-то всё-таки произошло. И это что-то напрямую восходит к двум достаточно близким разделам математики - геометрии и топологии. 19 Метафизика, 2024, № 2 (52) 1. Предыстория. Геометрия Геометрия - одна из древнейших математических наук, связанная с изучением различных пространственных объектов. Долгое время геометрические конструкции рассматривались лишь сами по себе вне связи с другими разделами математики. И лишь в середине XVII в., после основополагающих работ Пьера Ферма и Рене Декарта, стало ясно, что геометрические объекты можно описать аналитически, а сама геометрия связана напрямую с остальной математикой. К примеру, окружность единичного радиуса характеризуется точками на плоскости с координатами x, y, удовлетворяющими равенству x2 + y2 - 1 = 0, а формула y2 - x3 + x = 0 определяет геометрический объект, называемый эллиптической кривой. Выражения, стоящие в левой части приведенных равенств, представляют собой сумму каких-то степеней переменных x, y, взятых с некоторыми числовыми коэффициентами, и называются многочленами. В данном случае мы имеем дело с многочленами от двух переменных второго порядка для окружности и третьего - для эллиптической кривой. Порядок многочлена - это максимальная степень входящих в него переменных. Рассмотрим для простоты многочлен от одной переменной. В частности, многочлен n-го порядка имеет вид pn(x) = a0 + a1x + a2x2 + … + anxn, где ai - некоторые числа, i = 0, …, n. Если многочлен приравнять нулю, то в результате получается равенство, которое можно интерпретировать как уравнение относительно неизвестной величины x, которое называется алгебраическим уравнением n-го порядка. Поскольку старший коэффициент an отличен от нуля (иначе получим уравнение более низкого порядка), на него можно разделить, получив коэффициент перед xn, равный единице. Таким образом, общее алгебраическое уравнение имеет вид a0 + a1x+ a2x2 + … + an-1xn-1 + xn = 0. Алгебраические уравнения изначально и составляли предмет алгебры. Центральным результатом здесь является основная теорема алгебры, доказанная в полном объеме в 1814 г. Жаном Арганом и независимо в 1816 г. Карлом Фридрихом Гауссом. Согласно этому результату, любое алгебраическое уравнение n-го порядка имеет решение, являющееся, вообще говоря, комплексным числом. Легко установить, что имеется ровно n таких решений. Со временем оказалось, что основным предметом изучения алгебры являются все-таки не уравнения, а объекты, над элементами которых можно выполнять некоторые операции - сложение, умножение и т.п. Рассмотрим, к примеру, множество целых чисел Z. Отметим, что сумма x + y любых двух целых чисел сама является целым числом. Это означает, что на множестве Z определена операция сложения +. Характерно, что операция эта удовлетворяет равенствам x + y = y + x и (x + y) + z = x + (y + z) для всех целых чисел x, 20 Серовайский С.Я. Вторая революция в математике? y, z. Эти свойства называются, соответственно, коммутативностью и ассоциативностью. Особую роль здесь играет число 0, сумма которого с любым целым числом дает это число. Наконец, для любого целого числа x существует такое число -x, что их сумма дает число 0. Указанный набор свойств означает, что множество целых чисел с операцией сложения является группой, а точнее, коммутативной группой, поскольку для определения группы общего вида требование коммутативности не обязательно. Однако на множестве Z можно еще определить операцию умножения. Это означает, что произведение x∙y любых двух целых чисел само является целым числом. При этом выполнены следующие равенства: (x∙y)∙z = x∙(y∙z) (ассоциативность умножения) и x∙(y + z) = x∙y + x∙z (дистрибутивность) для всех чисел x, y, z. Наличие всех вышеуказанных свойств означает, что множество Z с операциями сложения и умножения представляет собой кольцо. Группы и кольца являются непосредственными объектами исследования современной алгебры. При этом чрезвычайно важно, что указанные свойства выполняются не только для чисел. В частности, можно рассмотреть семейство всевозможных многочленов произвольного порядка от одного или нескольких переменных с действительными или комплексными коэффициентами. Очевидно, в результате сложения и умножения таких многочленов непременно получаются многочлены того же числа переменных, причем выполняются все отмеченные ранее свойства. Следовательно, многочлены также образуют кольцо и также оказываются алгебраическими объектами типа чисел. Отметим, что, согласно основной теореме алгебры, каждое алгебраическое уравнение, определяемое некоторым многочленом, имеет решения, соответствующие точкам на комплексной плоскости. Тем самым алгебраическому объекту (многочлену) однозначно сопоставляется набор точек, то есть объект геометрический. Возникает вопрос, что произойдет, если мы будем рассматривать не один, а несколько многочленов многих переменных? Им будет соответствовать уже система алгебраических уравнений. Множество решений такой системы представляет собой геометрический объект, называемый алгебраическим многообразием. Рассмотренные выше окружность, эллиптическая кривая и набор точек, являющихся решением алгебраического уравнения, оказываются таким образом примерами алгебраических многообразий. Поэтому поставленный вопрос касается связи между кольцом многочленов и алгебраическими многообразиями. Решающий шаг в этом направлении сделал Давид Гильберт, возможно, последний из математиков, который был, безусловно, великим. Он успешно работал практически во всех направлениях математики. И не только математики. Дело здесь даже не в том, что гильбертовы пространства являются мощным инструментом, широко используемым в квантовой механике и не только там. В ноябре 1915 г. Гильберт практически одновременно с Эйнштейном и независимо от него вывел основные уравнения общей теории относительности. 21 Метафизика, 2024, № 2 (52) Но прежде чем формулировать интересующий нас результат Гильберта, доказанный им в 1893 г. и называемый теоремой о нулях, определим одно из важнейших понятий теории колец, введенное в 1874 г. Рихардом Дедекиндом. Подмножество I кольца X называется идеалом, если произведение любого элемента из I на произвольный элемент кольца принадлежит множеству I (мы рассматриваем лишь коммутативные кольца). К примеру, идеалом кольца целых чисел является множество всех четных чисел (включая отрицательные), а идеалом кольца многочленов от переменной x является множество всех многочленов вида q(x) p(x), где q(x) - некоторый фиксированный, а p(x) - произвольный многочлен данного кольца. Согласно теореме Гильберта о нулях, если I является идеалом кольца многочленов от переменных x1, x2, …, xn, отличным от самого кольца (здесь стоит добавить - над алгебраически замкнутом полем, но мы не будем вдаваться в таки подробности), то существуют такие значения x1, x2, …, xn, что справедливо равенство p(x1, x2, …, xn) = 0 для любого многочлена p(x1, x2, …, xn) из данного идеала. Это говорит о том, что система алгебраических уравнений, определяемая всеми многочленами идеала, имеет решение. Совокупность всех таких решений образует алгебраическое многообразие в n-мерном пространстве переменных x1, x2, …, xn. Применительно к определенному выше идеалу кольца многочленов одной переменной это означает, что существует такое число x, которое удовлетворяет равенству q(x)p(x) = 0 для любого многочлена p(x), а значит, алгебраическое уравнение q(x) = 0 имеет решение. Полученный результат фактически соответствует основной теореме алгебры. Итак, теорема о нулях является обобщением основной алгебры и устанавливает связь между алгебраическим многообразием (геометрическим объектом) и идеалом кольца многочленов (алгебраическим объектом) в достаточно общем виде. Это утверждение в значительной степени определило ход развития алгебраической геометрии, занимающейся исследованием всевозможных алгебраических многообразий. Вот только как строго математически описать указанную связь? Именно необходимость корректного использования результатов одного математического направления (алгебры) для исследования объектов другого математического направления (геометрии) предопределила появление теории категорий. Однако непосредственный толчок к разработке этой теории дала не алгебраическая геометрия, а алгебраическая топология. 2. Предыстория. Топология В отличие от алгебры, а тем более геометрии, топология является сравнительно молодым направлением. Зародившись в недрах геометрии во второй половине XIX в., она сформировалась как самостоятельный раздел математики лишь в начале XX в. Предметом топологии было исследование качественных свойств геометрических объектов, не зависящих от их размеров. Тем самым такие характеристики, как длины или углы, а также площади или объемы, во внимание здесь вообще не принимаются. 22 Серовайский С.Я. Вторая революция в математике? Смена ориентиров потребовала разработки нового математического аппарата, нехарактерного для обычных задач геометрии. Определяющую роль здесь играли непрерывные преобразования. В частности, считается, что те объекты, которые можно преобразовать один в другой с помощью непрерывного преобразования, обладают одинаковыми топологическими свойствами. Если же такое преобразование принципиально невозможно, то рассматриваемые объекты с точки зрения топологии чем-то различаются. Почти одновременно возникли два взгляда на данную проблему, приведших к появлению двух ведущих направлений - общей и алгебраической топологии. Общая топология существенным образом опиралась на теорию множеств, причем основой здесь является понятие топологического пространства. Согласно определению, данному Феликсом Хаусдорфом в 1914 г., топологическим пространством называется такое множество с выделенным семейством его подмножеств t, что само это множество и пустое множество входят в состав t, причем пересечение любых двух и объединение произвольного набора подмножеств t принадлежат этому семейству. Отсюда выводятся определения непрерывного преобразования, предела и др., что позволило не только решить значительное количество чисто топологических проблем, но и стало основой функционального анализа. Алгебраическая топология пошла по другому пути. Определяющую роль здесь сыграл Анри Пуанкаре. Следует отметить, что Гильберт стал крупнейшим авторитетом в математическом мире лишь после смерти Пуанкаре. И если Гильберта иногда называют последним безоговорочно великим математиком, то предпоследним был, безусловно, Пуанкаре. Он также работал практически во всех разделах математики и всюду добивался выдающихся результатов. И если Гильберт внес существенный вклад в разработку общей теории относительности, то Пуанкаре по праву считается одним из основоположников специальной теории относительности. Любопытно, что тот результат, о котором пойдет речь ниже, был получен Пуанкаре в 1894 г., то есть ровно через год после того, как Гильберт доказал теорему о нулях. Однако, прежде чем говорить о результатах Пуанкаре, стоит перенестись на несколько десятилетий назад. В 1872 г. 23-летний Феликс Клейн, вступая в должность профессора маленького немецкого городка Эрланген, выступил с докладом, вошедшим в историю математики под названием Эрлангенская программа. К тому времени геометрия фактически разделилась на некоторое количество практически независимых разделов: евклидова, риманова, Лобачевского, аффинная, проективная и др., каждый из которых обладал своими специфическими особенностями. Клейн предположил, что каждой из этих геометрий соответствует свой тип преобразований, сохраняющих важнейшие свойства именно этой геометрии. Рассмотрим в качестве примера плоскость и какие-то фигуры на ней. Очевидно, если мы переместим эти фигуры из одной части плоскости в другую, выполнив соответствующий сдвиг, то все фигуры останутся практически такими же, какими они и были изначально. Треугольник так и будет 23 Метафизика, 2024, № 2 (52) треугольником, круг - кругом, трапеция - трапецией. Более того, все длины и углы при этом также не изменятся. Аналогичная ситуация наблюдается, если выполнить поворот фигуры на произвольный угол вокруг некоторой точки. Сдвиги и повороты представляют собой преобразования, называемые движениями. Если мы теперь выполним сначала одно движение (неважно какое именно), а потом другое, то свойства рассматриваемых геометрических объектов также не изменятся. Тем самым последовательное выполнение, то есть суперпозиция двух движений обязательно сама окажется движением. Таким образом, на множестве всевозможных движений на плоскости (сдвигов, поворотов и их комбинаций) определена операция суперпозиции, являющаяся в некотором смысле аналогом сложения целых чисел. Характерно, что данная операция является ассоциативной, а аналогом нуля для сложения чисел (в алгебре используется термин «единица») оказывается тождественное преобразование, вообще ничего не меняющее. Наконец, каждому движению соответствует обратное преобразование, возвращающее фигуру в исходное положение (аналог противоположного целого числа). Тем самым множество всевозможных движений с операцией суперпозиции образует группу. Так вот, согласно Клейну, евклидову пространству соответствует группа движений в том смысле, что здесь изучаются те и только те свойства геометрических объектов, которые не меняются в процессе движения. Другим типам геометрии (аффинной, проективной и др.) соответствуют группы преобразований другого типа. Отсюда открывался прямой путь к исследованию топологических свойств, которые не должны меняться при непрерывных преобразованиях. Так что же сделал Пуанкаре? Мы ограничимся рассмотрением маленького частного случая, соответствующего фигурам на плоскости R2, то есть нас будут интересовать свойства плоских фигур с топологической точки зрения. Попытаемся снова работать с преобразованиями. Выше мы говорили о сдвигах и поворотах. Очевидно, сдвиги соответствуют прямолинейному движению, а повороты - движению по дуге окружности. Однако для выявления топологических свойств требуется существенно более широкий класс преобразований, а именно непрерывных. Непрерывная кривая на плоскости может иметь чрезвычайно сложный вид, в связи с чем не совсем понятно, что следует понимать под суперпозицией таких преобразований. Для упрощения ситуации будем полагать, что начальная и конечная точки кривой совпадают. Выделяем на плоскости некоторую точку x0. Определим непрерывную кривую, которая начинается и заканчивается в этой точке, то есть своего рода петлю. Легко определить суперпозицию двух подобных петель: для этого следует двигаться сначала по первой кривой, а потом (после возвращения в точку x0) - по второй. В результате вновь появляется непрерывная кривая, которая также начинается и заканчивается в точке x0, то есть петля такой же природы. Тем самым такая суперпозиция оказывается операцией на множестве подобных петель. Очевидно, мы получаем группу, причем в качестве единицы (аналога нуля в рассмотренной группе целых чисел) выбирается тривиальная 24 Серовайский С.Я. Вторая революция в математике? петля e (мы вообще не выходим из точки x0), а в качестве обратного преобразования к некоторому движению указанного типа - движение по той же самой петле, но лишь в обратном направлении. Рассмотрим теперь некоторую область X на плоскости, топологические свойства которой нас интересуют. Отметим, что если выполнить некоторую деформацию какой-либо петли, то фактически мало что изменится. В этой связи будем говорить, что две петли указанного типа эквивалентны, если одну из них можно непрерывно преобразовать в другую, оставаясь непременно в области X (рис. 1). В результате всё множество таких петель разбивается на классы, каждый из которых представлен исключительно эквивалентными между собой петлями. Тогда каждой петле p ставится совокупность [p] всех эквивалентных ей петель. Множество всевозможных таких классов [p] обозначается через π1(X, x0) (подобные объекты называются фактор-множествами). Если это множество не зависит от выбора точки x0, то используется упрощенная запись π1(X). 2 ¡R 2 x0 · p1 p2 X q1 2 х0 · М q Рис. 1. Петли p1 и p2 эквивалентны, а петли q1 и q2 не эквивалентны На множестве π1(X, x0) определяем операцию *, понимая под [p]*[q] совокупность всех петель указанного класса, эквивалентных суперпозиции петель p и q. Очевидно, результат не зависит от выбора конкретных петель из соответствующих классов эквивалентности. Нетрудно убедиться, что множество π1(X, x0) с указанной операцией также образует группу (группы такого типа называются фактор-группами), которая называется фундаментальной группой X. Именно это понятие, только для несравненно более общего случая ввел Пуанкаре и, что самое главное, предложил использовать его для исследования топологических свойств различных объектов. Определим, к примеру, фундаментальную группу самой плоскости. Поскольку все ее точки равноправны, ее фундаментальная группа не зависит от выбора x0. Очевидно, любую петлю на R2 можно непрерывно стянуть в саму точку x0, а значит, любая петля оказывается эквивалентной тривиальной петле e. Тогда любые две петли p1 и p2 на плоскости оказываются эквивалентными между собой (см. рис. 1). Тем самым фундаментальная группа плоскости π1(R2) состоит из единственного элемента [e]. Рассмотрим теперь область X, получаемую из плоскости путем вырезания некоторой ее части М (см. рис. 1), и петли, связанные с произвольной ее точкой x0. Очевидно, петлю q1 можно непрерывно стянуть в эту точку, а значит, она эквивалентна тривиальной петле. Однако петлю q2, обходящую 25 Метафизика, 2024, № 2 (52) вокруг вырезанной области М, уже невозможно стянуть в x0, оставаясь в пределах X (вырезанная область препятствует движению). Следовательно, петли q1 и q2 не эквивалентны, а значит, им соответствуют разные элементы соответствующей фундаментальной группы. Отметим, что петлю, которая отличается от q2 лишь направлением движения (например, обходящую область М не по часовой стрелке, а против нее), нельзя непрерывно преобразовать в q2 (для выполнения такого преобразования пришлось бы выйти в третье измерение за пределы плоскости), а значит, мы получаем новый элемент фундаментальной группы. Далее, петля, обходящая М дважды, не может быть непрерывно преобразована в пределах X в петлю, обходящую препятствие один раз. Продолжая этот процесс, заключаем что фундаментальная группа π1(X) содержит бесконечное множество элементов. К ним относится, прежде всего, класс петель, стягиваемых в точку подобно q1, которые ни разу не обходят М. Он будет единичным элементом группы, аналогичным нулю для группы целых чисел со сложением, вследствие чего ему можно поставить в соответствие число 0. Кроме того, для любого натурального числа n имеется класс петель, обходящих n раз область М по часовой стрелке, и класс петель, обходящих эту область n раз против часовой стрелки. Таким элементам фундаментальной группы можно сопоставить числа n и -n. В результате оказывается, что фундаментальная группа области X устроена практически так же, как и определенная ранее группа целых чисел с операцией сложения (эти группы изоморфны): определенной выше операции (*) над элементами множества π1(X) соответствует сложение соответствующих целых чисел. Нетрудно убедиться, что множества, полученные при вырезании из плоскости двух, трех и т.д. отдельных областей, отличающиеся по топологическим свойствам от рассмотренных выше множеств, а также между собой, будут различаться и по своим фундаментальным группам. Итак, по мысли Пуанкаре, топологические пространства можно различать по соответствующим им фундаментальным группам, то есть алгебраическим объектам. Эти идеи лежат в основе алгебраической топологии. 3. Теория категорий как язык математики В обоих рассмотренных направлениях реализовывалась одна и та же идея - исследование объектов одной природы (относящиеся к геометрии алгебраические многообразия и изучаемые с топологической точки зрения плоские множества) сводится к рассмотрению объектов качественно иной природы (кольцо многочленов и фундаментальные группы, относящиеся к алгебре). Естественно задаться вопросом, а что же стоит за этими переходами, коль скоро они обеспечивают использование информации, получаемой в рамках одной предметной области (в данном случае - алгебры), для анализа объектов, лежащих как будто далеко за ее пределами? Какова, к примеру, природа преобразования π1, сопоставляющего топологическому пространству X группу π1(X)? В процессе развития алгебраической топологии были установлены и другие алгебраические способы классификации топологических пространств 26 Серовайский С.Я. Вторая революция в математике? (действительно, если есть π1, то должны по крайней мере существовать какието преобразования π2, π3 и т.д.). И это было крайне удивительно, поскольку алгебра в большей степени связана с дискретными объектами типа множества целых чисел, в то время как топология работает с непрерывностью. Алгебраический аппарат достаточно хорошо развит (что и не удивительно, если вспомнить, что алгебра много старше топологии), в то время как в топологии оставалась масса нерешенных проблем. Возникла острая необходимость в разработке специального аппарата для строгого описания связей между алгебраическими и топологическими объектами. В 1942 г. появилась статья американских математиков Самуэля Эйленберга и Сандерса Маклейна, где было введено понятие функтора, которое и реализует искомые связи. Однако при этом встал естественный вопрос, откуда и куда конкретно действует это преобразование? Для получения корректных результатов на область определения и область значений функтора должны быть наложены некоторые ограничения. Так появилось понятие категории, определенное Эйленбергом и Маклейном в 1945 г. От этого результата и принято отсчитывать историю теории категорий. Так что же такое категория? Она характеризуется объектами и морфизмами, про которые известно лишь то, что любой морфизм связан с двумя объектами, один из которых называется его началом, а второй - концом, причем выполнены три дополнительных условия, о которых будет сказано ниже. Для прояснения ситуации можно представить категорию в виде ориентированного графа, вершинами которого являются объекты, а путями от одного объекта к другому - морфизмы (рис. 2). В частности, изображенная на рис. 2 категория Г включает в себя объекты X, Y, Z, V и морфизмы A, B, C, связанные с соответствующими объектами. Y B Г А Z X C V Рис. 2. Представление категории в виде графа Три вполне естественных дополнительных требования, предъявляемых к произвольной категории, состоят в следующем. Если конец одного морфизма совпадает с началом второго морфизма (например, концом морфизма A и началом морфизма B на рис. 2 является объект Y), то определен морфизм из начала первого морфизма в конец второго морфизма, называемый их композицией. В частности, если у нас есть путь от вершины графа X к вершине Y, а также путь от Y к Z, то имеется возможность попасть из X в Z (вспоминаем суперпозицию движений на плоскости и петель при определении фундаментальной группы). Далее (по аналогии с операцией на группе), композиция морфизмов ассоциативна. Так, на рис. 2 от объекта X к объекту V 27 Метафизика, 2024, № 2 (52) можно попасть, либо переходя от X к Z с помощью композиции морфизмов A и B, а уже потом по пути C попадая в V, либо по пути A перейти к объекту Y, а потом прийти в V с помощью композиции морфизмов B и C. Ассоциативность означает, что результат будет один и тот же. Наконец, каждому объекту сопоставляется единичный морфизм с началом и концом в этом объекте (вспоминаем петли при определении фундаментальной группы), композиция которого с любым морфизмом дает последний (аналогия с числом нуль, тождественным преобразованием группы движений и тривиальной петлей е). Следует отметить, что композиция морфизмов, вообще говоря, не соответствует группе, поскольку отсутствует требование существования обратного морфизма. Более того, какие-то объекты могут быть вообще не связанными морфизмами, так что композиция даже не является операцией над объектами. Практически сразу выяснилось, что категории присутствуют в математике повсеместно. Так, всевозможные топологические пространства оказываются объектами категории, где в качестве морфизмов выступают непрерывные преобразования. Всевозможные множества и действующие на них операторы являются объектами и морфизмами категории множеств. Группы являются объектами категории, где морфизмами являются так называемые гомоморфизмы: они переводят результат операции, единицу и обратный элемент первой группы в результат операции, единицу и обратный элемент второй группы соответственно. Векторные пространства (их элементы можно складывать и умножать на скаляры) образуют категорию с линейными операторами в качестве морфизмов. Упорядоченные объекты (множества, элементы которых можно в некотором смысле ранжировать, например, числа - по возрастанию или убыванию, фигуры на плоскости - по размерам их площади, людей - по возрасту и т.п.) являются объектами категории, в которой роль морфизмов играют монотонные преобразования. Более того, категории обнаружились и за пределами математики. Так, источники информации (книги или сайты в Интернете) являются объектами категории, в которой роль морфизмов играют ссылки от одного источника к другому. Тексты на различных языках можно интерпретировать как объекты категории, в качестве морфизмов которой выступают словари или программы компьютерного перевода. Состояния некоторой системы (физической, биологической, экономической и др.) можно считать объектами категории, морфизмами которой оказываются процессы перехода от одного состояния к другому. Оказалось, что многие конструкции, возникающие в разных разделах математики, в действительности являются частными случаями каких-то общих конструкций теории категорий. Так, изображенная на рис. 1 часть плоскости Х является подмножеством этой плоскости. Если же мы исследуем топологические свойства множества Х, то его уже следует понимать, как топологическое подпространство плоскости. Множество всех четных чисел (включая отрицательные) образует подгруппу группы целых чисел с операцией сложения. Идеал кольца является его подкольцом. Всё это и многое другое (векторные подпространства, упорядоченные подмножества и т.п.) относится 28 Серовайский С.Я. Вторая революция в математике? к подобъектам различных конкретных категорий. Вместе с тем при определении фундаментальной группы мы определяли фактор-множество множества петель, а при наделении этого фактор-множества соответствующей операцией получалась фактор-группа группы петель. Они, а также многое другое (фактор-кольца, фактор-алгебры, фактор-пространства и др.) являются частными случаями фактор-объектов категории. Так вот, зная общее понятие подобъекта категории и выбирая конкретную категорию, можно автоматически получить подмножество, подгруппу, векторное или топологическое подпространство и т.д. Аналогично, имея конструкцию фактор-объекта и конкретизируя категорию, мы определяем фактор-группу, фактор-кольцо, факторпространство и др. А теперь уже можно дать полное описание понятия функтора, которое и предопределило появление теории категорий. Функтором, действующим из одной категории в другую, называется такое преобразование, которое переводит объекты первой категории в объекты второй категории, а также морфизмы в морфизмы, единичные морфизмы в единичные морфизмы, а композицию морфизмов в композицию морфизмов. Тем самым функторы сохраняют общую структуру категории. В частности, из теоремы о нулях следует эквивалентность категории алгебраических многообразий и некоторой алгебраической категории, что означает переход функтора из первой категории во вторую, который обратим, то есть имеется возможность вернуться из второй категории назад в первую с помощью некоторого функтора, являющегося обратным к первому. Аналогично построение фундаментальной группы топологического пространства соответствует функтору π1 из категории топологических пространств в категорию групп. И если собственно категории предоставляют возможность унифицировать построение частных математических теорий (теорий групп, колец, топологических пространств, упорядоченных множеств и др.), то функторы позволяют объединить эти теории в единую информационную сеть. Таким образом, теория категорий в некотором смысле является языком общения внутри математики, а в определенной степени и за ее пределами. В частности, в настоящее время ширится применение теории категорий в информатике, логике и физике. Однако всё это было лишь началом… 4. Категория как самодостаточное понятие Для Эйленберга, Маклейна и их ближайших последователей теория категорий являлась чрезвычайно удобным языком для проведения тех или иных исследований. При этом заранее предполагалось, что уже имеются множества, наделенные какой-то структурой - операциями, порядком, метрикой (расстоянием между точками), мерой (количественной характеристикой, выражающей размер объекта типа длины, площади или объема, а для физического объекта - энергии, массы и т.п.) и др. Они объявляются объектами соответствующей категории, а морфизмами здесь выступают такие преобразования, которые эту структуру сохраняют (не меняют 29 Метафизика, 2024, № 2 (52) расположение элементов по порядку, расстояние между точками, размер объектов и т.п.). Тем самым конкретная категория оказывалась вторичной по сравнению с теорией, которую она описывает. К примеру, категория групп была определена значительно позднее понятия группы. Функторы же просто обеспечивают корректный переход от одной подобной теории к другой... Однако со временем взгляды на ситуацию изменились. По мере развития алгебраической топологии открывались всё новые и новые алгебраические объекты, которые сопоставлялись топологическим пространствам и были выбраны за основу классификации топологических свойств. Они обладали некоторыми специфическими особенностями, поэтому вскоре обрел относительную самостоятельность специальный раздел алгебры под названием гомологическая алгебра. Его предметом было изучение свойств алгебраических объектов, возникающих в задачах алгебраической топологии. Одним из лидеров этого направления стал выдающийся французский математик Александр Гротендик. В 1957 г. Гротендик вводит понятие абелевой категории, специального класса категорий, которое он затем применяет для решения фундаментальных проблем гомологической алгебры. Новаторство Гротендика здесь состояло в следующем. Ранее считалось, что уже имеется какой-то математический объект типа группы, кольца и т.п., определенный стандартным образом как множество, наделенное некоторой структурой, а уже потом по нему восстанавливается соответствующая категория. Гротендик же изначально вводил новые понятия средствами теории категорий, а уже потом при необходимости соответствующим объектам и морфизмам можно было придать обычную теоретико-множественную форму. Тем самым категория перестала зависеть от теории множеств и превратилась в самодостаточное понятие. Поясним эту ситуацию на конкретных примерах. Ранее было дано стандартное определение группы как множества, на котором определена ассоциативная операция (например, сложение чисел), причем там существует единичный элемент (аналог нуля на множестве целых чисел со сложением), а каждый элемент множества обратим (существует обратный элемент, который в композиции с данным элементом дает единичный). Средствами теории категорий можно дать альтернативное определение: группа - это категория, состоящая из единственного объекта, в которой каждый морфизм обратим (существует обратный морфизм, который в композиции с данным морфизмом дает единичный). Отсюда в качестве следствия можно вывести стандартное определение, выбирая в качестве элементов основного множества морфизмы категории, а в качестве операции - композицию морфизмов. Однако можно и не выполнять такой переход, а проводить исследование группы непосредственно средствами теории категорий. Еще один пример связан с множествами, наделенными порядком. Так, числа можно расположить по порядку с помощью отношения «меньше». Отметим при этом следующее характерное свойство, называемое транзитивностью: если число x меньше y, а y меньше z, то x меньше z. В принципе мы можем сравнивать любые два числа, а значит, не исключен вариант 30 Серовайский С.Я. Вторая революция в математике? их равенства. В этой связи предпочтительнее оказалось использование отношения «меньше или равно», обозначаемое через £. Тогда всегда будет выполнено условие x £ x, называемое рефлексивностью. Самый простой класс множеств, наделенных порядком, предполагает наличие на нем отношения типа £, которое является транзитивным и рефлексивным. Это соответствует стандартному определению предупорядоченного множества. А в рамках теории категорий дается такое определение: предупорядоченным множеством называется категория, в которой любые два объекта могут быть связаны не более чем одним морфизмом. И вновь имеется возможность вывести отсюда теоретико-множественное определение. Для этого достаточно в качестве элементов множества выбрать все объекты данной категории и считать, что условие x £ y выполнено исключительно в том случае, когда существует морфизм из объекта x в объектy. Вооружившись подобными идеями, Гротендик обратился к алгебраической геометрии. В частности, он дал существенное обобщение алгебраических многообразий за счет перехода от кольца многочленов к кольцам достаточно общего вида. Эти результаты в значительной степени определили дальнейший ход развития алгебраической геометрии и были свидетельством серьезных успехов теории категорий. Однако вскоре выяснилось, что теория категорий дает нечто большее. 5. Категории как основа математики В работах Гротендика и его последователей категория выступает как самостоятельный объект, с помощью которого можно вводить различные математические понятия, не обращаясь к теории множеств. Это позволило существенным образом продвинуть вперед алгебраическую геометрию, алгебраическую топологию и гомологическую алгебру. Однако в основаниях математики по-прежнему находилась математическая логика, построенная на теоретико-множественной основе. Напрашивался естественный вопрос: коль скоро теория категорий способна стать фундаментом для различных математических конструкций, то не может ли она заменить теорию множеств и в основаниях математики? Решающий шаг в этом направлении сделал американский математик Уильям Ловер. Ловер высказал смелое предположение о том, что даже математическая логика и теория множеств могут быть изложены на базе теории категорий. В 1963 г. он взялся за разработку категорной логики. Действительно, уже известно, что имеется возможность изначально аксиоматически определить категорию групп, а потом, как следствие, получить определение группы как объекта этой категории. А почему бы тогда не попытаться ввести сначала категорию множеств, а уже потом в качестве следствия получить само понятие множества? И уже в 1964 г. Ловер предлагает соответствующую аксиоматику категории множеств. Однако следует здесь иметь в виду одно весьма существенное обстоятельство. Как известно, множество состоит из элементов, а значит, непременно обладает какой-то внутренней структурой. В то же 31 Метафизика, 2024, № 2 (52) время объект категории понимается как единое целое и внутренней структурой не обладает. Следовательно, нужно подобрать такую категорную конструкцию, которая допускала бы нечто подобное. И такая конструкция действительно нашлась. Незадолго до этого Гротендик, решая задачи алгебраической геометрии, вводит весьма специфический класс категорий, называемых топосами, которые обладали желаемыми свойствами. В 1970 г. Ловер совместно с Майлзом Тирни усовершенствует топос Гротендика. Объекты возникшей в результате категории в полной степени отражали свойства множеств. Тем самым разрабатываемая теория топосов обобщала теорию множеств, а средствами этой теории были получены различные аксиоматики теории множеств, включая интуиционистскую. Таким образом, основания математики получили теоретико-категорную основу. В рамках новой концепции о каком-либо математическом понятии уже нельзя было говорить вне той категории, с позиций которой оно рассматривается. Оно должно непременно рассматриваться согласно законам этой категории. Однако в чем же принципиальное отличие между взглядами на систему с позиций теории множеств, состоящих из элементов, и теории категорий, состоящих из объектов и морфизмов? В первом случае предметом изучения является множество, а во втором - объект. Множество обладает внутренней структурой, будучи составленным из элементов. Объект подобной структурой не обладает, а информацию о нем можно получить на основе входящих в него и выходящих из него морфизмов. В первом случае мы устанавливаем свойства системы, непосредственно исходя из свойств составляющих ее элементов. Во втором случае система понимается как «черный ящик», а информация о ней получается на основе анализа ее отклика на воздействие извне. Есть основания полагать, что подобный взгляд оказывается применимым для существенно более широкого класса решаемых задач. Заключение С момента появления теории категории минуло уже около восьмидесяти лет. За прошедшее время в этом направлении было получено немалое количество глубоких результатов. Ширится применение теории категории за пределами математики. Однако достаточно ли всего этого для того, чтобы можно было с уверенностью утверждать о состоявшейся революции в математике? Действительно, несмотря на всё, сказанное выше, математика в целом как будто не сильно изменилась. За прошедший период, кажется, не просматривается ничего такого, напоминающего те радикальные изменения, которые произошли в математике под влиянием теории множеств. Реальность такова, что в настоящее время значительное количество действующих математиков даже и не подозревают о существовании теории категорий. А среди тех, кто о ней всё-таки наслышан, немало тех, кто считает теорию категорий бесполезной игрушкой, не дающей практикующему математику решительно ничего серьезного. Действительно, какую реальную 32 Серовайский С.Я. Вторая революция в математике? помощь она может оказать человеку, работающему в одном из направлений теории вероятностей или вычислительной математики, дифференциальных уравнений или методов оптимизации? Речь, очевидно, не идет о специалистах в области алгебраической геометрии, алгебраической топологии или гомологической алгебры, где без аппарата теории категории трудно рассчитывать на получение чего-то сколько-нибудь серьезного. Но подавляющее большинство математиков с этими разделами математики в своей профессиональной деятельности не соприкасается. Можно, конечно, указать сомневающимся на унифицирующую роль теории категории, позволяющей взглянуть с единых позиций на различные разделы математики. Однако большинство математиков фактически работают лишь в одном конкретном направлении и не испытывают острой потребности в обнаружении каких-то аналогий за пределами сферы своих научных интересов. На это можно было бы возразить, отметив возможность перестройки самих оснований математики, при которой вся теория множеств становится лишь одной из многих следствий теории категорий. На это специалист в области теории случайных процессов или теории игр, численных методов решения дифференциальных уравнений или оптимального управления системами с распределенными параметрами может ответить: а какое мне дело до того, что где-то там, далеко в глубинах математики, слово «множество» будет заменено на «категорию»? Наконец, отчаянные скептики могут привести и такой поистине убийственный аргумент: если уж теория категорий столь хороша, то где же ее по-настоящему значимые достижения? Где те действительно знаковые результаты, которые были получены с ее помощью? И на самом деле, где? Вспоминаем, какие выдающиеся достижения в математике были установлены за последние десятилетия, которые были бы на слуху не только у прямых специалистов, но и у людей, более или менее далеких от подобных проблем. Таких результатов, по-видимому, просматривается только два. Это - теорема Ферма, доказанная в 1994 г. Эндрю Уайлсом, и гипотеза Пуанкаре, обоснованная в 2003 г. Григорием Перельманом. Уж о них-то наслышаны даже люди, никак не связанные с математикой… Кстати, о чем там идет речь? Согласно теореме Ферма, не существует таких натуральных чисел x, y, z, для которых справедливо равенство xn + yn = zn, где степень n больше двух. Однако что это, как не алгебраическое уравнение? А множество его решений, если таковые существуют, образует некоторое алгебраическое многообразие. Правда, решения этого уравнения ищутся среди натуральных чисел. Однако современная алгебраическая геометрия, базирующаяся, по крайней мере, со времен Гротендика на теории категорий, никак не ограничивается рассмотрением лишь действительных или комплексных чисел. Кстати, Уайлс и доказал теорему средствами именно этой самой алгебраической геометрии. Любопытно, что при этом использовался аппарат теории эллиптических функций, одна из которых упоминалась ранее. А что же там было с гипотезой Пуанкаре? В ней говорится о том, что произвольный трехмерный объект, удовлетворяющий некоторым специфическим требованиям, обладает такими же в точности топологическими 33 Метафизика, 2024, № 2 (52) свойствами, что и трехмерная сфера. Мы не будет здесь уточнять смысл всех этих требований. Однако одно из них весьма знаменательно - любая петля там может быть непрерывно стянута в точку. А это в точности то свойство, исследуемое средствами алгебраической топологии, о котором говорилось ранее, то самое свойство, которое в определенной степени и предопределило появление теории категорий. Вот и получается, что оба знаковых математических результата последнего времени, о которых наслышаны далеко не одни профессионалы, так или иначе связаны с теорией категорий. Так, возможно, Дьёдонне был прав, и вторая революция в математике всё-таки произошла, а мы ее просто не заметили? Кто знает…