МАТЕМАТИКА: ОТ ТЕОРИИ МНОЖЕСТВ К ТЕОРИИ КАТЕГОРИЙ

Аннотация

В основании математики лежит теория множеств, к которой восходят практически все математические направления. Однако неуклонно возрастает значение теории категорий для математики в целом. Если в теории множеств определяющую роль играет внутренняя структура рассматриваемого объекта, то в теории категории объект характеризуется c помощью его связей с другими объектами. В статье обсуждаются особенности теоретико-множественного и теоретико-категорийного подходов в математике.

Полный текст

Развитие математики тысячелетиями шло в сторону унификации знаний и поиска первооснов. Собственно, это было предопределено самим духом математики. Действительно, любое математическое утверждение должно быть строго доказано. Доказательство же представляет собой некоторую стройную логическую цепочку утверждений, каждое из которых должно опираться на утверждения, уже обоснованные ранее. Этот принцип использовался повсеместно, по крайней мере, начиная с работ первых древнегреческих математиков - Фалеса и Пифагора. Однако неминуемо возникает вопрос, что находится в самом начале? Понятно, что самые первые положения никак не могут быть логически доказаны, поскольку им ничего не предшествует. Следовательно, они просто принимаются на веру, исходя из опыта и интуиции исследователя. Аксиоматический подход, присутствующий в работах Гиппократа и Евдокса, в достаточно совершенной форме был изложен Евклидом. Однако, хотя «Начала» Евклида включали в себя отдельные положения арифметики и даже алгебры, основным предметом рассмотрения здесь все-таки была геометрия. Будучи одной из важнейших математических дисциплин, всю математику она далеко не исчерпывала. А поскольку у ведущих математиков не возникало сомнений, что арифметика и геометрия являются частями чего-то единого целого, напрашивалась мысль о том, что основания математики находятся где-то глубже. На пути поиска первооснов математики чрезвычайно важную роль сыграло введение специальной символики для описания математических объектов. В зачаточной форме оно присутствовало уже в работах Евклида и Диофанта. Но систематически символику стал применять Виет, с которого, возможно, и начинается математика Нового времени. Значительные усовершенствования в язык математики внес Декарт, которому вместе с Ферма к тому же удалось связать геометрию с другими разделами математики. Разработка основ аналитической геометрии в немалой степени предопределила бурное развитие практически всех математических направлений со второй половины XVII по начало XIX в. А после работ Больцано и в еще большей степени Кантора в математику прочно вошла теория множеств. За несколько десятилетий на теоретико-множественную основу были поставлены практически все ведущие направления математики - арифметика, алгебра, геометрия, анализ, топология. Кризис оснований математики начала ХХ в., связанный с особенностями важнейших теоретико-множественных понятий, был достаточно болезненным. Однако в значительной степени он был преодолен по ходу разработки аксиоматической теории множеств. Теория множеств получила всеобщее признание в качестве основания всей математики и прочно вошла в учебники. Математика достигла пика своего развития. А потом как-то незаметно подступило ощущение, что математика фактически застыла в своем развитии. Да, бурно развивались направления прикладной математики, в немалой степени стимулируемые развитием компьютерных технологий. Но они практически не затрагивали ее фундаментальные направления. За последние полвека в математике встречались и чрезвычайно яркие события - решение проблемы четырех красок, классификация простых конечных групп, доказательство теоремы Ферма, обоснование гипотезы Пуанкаре. Однако они производят впечатление отдельных изолированных результатов, отличающихся фантастической сложностью и крайней громоздкостью. Вследствие этого они оказались доступными лишь крайне ограниченной группе узких специалистов, не затрагивая интересы абсолютного большинства работающих математиков. Основания математики они определенно не поколебали. Складывалось впечатление, что после, по крайней мере, двух с половиной тысячелетий бурного развития математика достигла какого-то предела. Однако это было обманчивое затишье. В 1961 г. выдающийся французский математик Жан Дьёдонне заявил: «Возможно, сейчас математика стоит на пороге второй революции… оценивать область применения и все последствия которой еще рано». Под первой революцией определенно понималась теория множеств. А что же могло быть такого, сравнимого с ней? На пороге чего, возможно, стоит математика? Что же это за загадочное Нечто, область применения и последствия появления которого еще даже невозможно оценить? В первой половине двадцатого столетия среди всех математических дисциплин бурно развивались алгебра и топология. Алгебраические и топологические объекты существенно различаются по своим свойствам. Алгебра обычно оперирует с дискретными и конечными объектами, в то время как для топологии в большей степени важны свойства непрерывности и бесконечности. На стыке столь разных направлений зародилась алгебраическая топология, в которой топологические свойства объектов устанавливаются средствами алгебраического аппарата. В сороковые годы ХХ в., работая над конкретными проблемами алгебраической топологии, Самюэль Эйленберг и Сондерс Маклейн ввели понятие категории. Казалось бы, речь идет о частном математическом объекте, разработанном в специализированном математическом направлении. Однако вспомним, что и Кантор пришел к теории множеств, решая частные математические задачи, связанные со сходимостью рядов Фурье… Сравнительно быстро выяснилось, что теория категорий имеет общематематический смысл. В частности, за каждой фундаментальной математической теорией стоит какая-то категория - групп, топологических пространств, упорядоченных множеств, векторных пространств и т.д. При этом средствами теории категорий могут быть с единых позиций описаны многие понятия, встречающиеся в различных разделах математики. К примеру, имея теоретико-категорийное понятие подобъекта и выбирая какую-то конкретную категорию, например категорию групп, упорядоченных множеств или метрических пространств, мы автоматически получаем понятия подгруппы, упорядоченного подмножества и метрического подпространства. Аналогично, отталкиваясь от понятия фактор-объекта и выбирая, к примеру, категорию колец или топологических пространств, мы сразу приходим к фактор-кольцу и фактор-топологии. А попутно выясняется, что фактор-объект представляет собой тот же подобъект, но только взятый в двойственной категории. Тем самым для построения, к примеру, фактор-группы достаточно воспользоваться конструкцией подобъекта в категории, двойственной к категории групп. Итак, теория категорий представляется теорией различных математических теорий. Но есть еще понятие функтора, обеспечивающее переходы от одних категорий к другим. Тем самым обеспечиваются связи между различными математическими теориями, которые объединяются тем самым в единую сеть. Многие известные математические конструкции по своей природе оказываются функторами. Так, функтор пополнения обеспечивает переходы от метрических, линейных нормированных и унитарных пространств соответственно к полным линейным, банаховым и гильбертовым пространствам, функтор сопряжения - от векторных пространств с линейными операторами к соответствующим сопряженным пространствам и операторам, а функтор дифференцирования - от топологических векторных пространств с выделенными точками и операторами на них к топологическим векторным пространствам с линейными непрерывными операторами. Однако истинное значение теории категорий проявилось позднее. В семидесятые годы ХХ в. Александр Гротендик (кстати, ученик Дьёдонне), исходя из потребностей алгебраической геометрии, вводит понятие топоса. А потом Уильям Ловер (кстати, ученик Эйленберга) установил, что средствами теории топосов может быть описана математическая логика. Но это уже означает, что основания математики могут быть представлены не на теоретико-множественной, а на теоретико-категорийной основе. Так чем же различаются теоретико-множественный и теоретико-категорийный подходы? Обратимся к первой части знаменитого трактата Бурбаки «Элементы математики» под названием «Теория множеств» [1], попутно отметив, что в группу Бурбаки входили и Дьёдонне, и Эйленберг, и Гротендик. Там понятие множества характеризуется следующим образом: «Множество составляется из элементов, имеющих некоторые свойства и находящихся в каких-то отношениях между собой или с элементами других множеств». Итак, при описании множества самое важное - его внутренняя структура, то, что оно из чего-то состоит. Именно наличие каких-то индивидуальных свойств у элементов множества, а также связи между элементами предопределило повсеместное применение теоретико-множественного аппарата. В свою очередь, категория характеризуется исключительно объектами и морфизмами, связывающими различные объекты [2]. С теоретико-категорийным подходом напрямую связана концепция «чёрного ящика», широко применяемая в кибернетике и ее приложениях. Она используется для анализа систем, внутреннее устройство и принцип действия которых остаются неизвестными. При этом о свойствах рассматриваемой системы можно судить по ее отклику на то или иное внешнее воздействие. Входящие сигналы здесь соответствуют морфизмам с концом в данном объекте, а выходящие сигналы - морфизмам с началом в данном объекте. Каждая конкретная категория состоит из набора в некотором смысле однотипных объектов, а также морфизмов, характеризующих связи между объектами этой категории и сохраняющих ее определяющую структуру. Так, категория упорядоченных множеств состоит из всевозможных упорядоченных множеств и связывающих их монотонных операторов - преобразований, сохраняющих порядок. Категория векторных пространств определяется векторными пространствами и действующими на них линейными операторами - преобразованиями, сохраняющими алгебраические операции. Категория топологических пространств оперирует с топологическими пространствами - множествами, в которых имеет смысл понятие близости элементов, и непрерывными операторами - преобразованиями, сохраняющими свойства близости. Ключевыми здесь являются понятия изоморфизма - взаимно однозначного отображения, сохраняющего определяющую структуру объекта как в прямом, так и в обратном направлении. В рамках конкретной теории (упорядоченных множеств, полей, топологических пространств и др.) могут быть установлены те и только те свойства объектов данной категории, которые сохраняются при соответствующих изоморфизмах. Тем самым свойства исследуемого объекта устанавливаются не в процессе анализа составляющих его элементов, а путем установления его изоморфизма с некоторыми более простыми модельными объектами, свойства которых уже установлены. Теория категорий позволяет переосмыслить многие математические понятия, позволив дать полное описание многих математических объектов без обращения к их внутренней структуре, к свойствам составляющих их элементов. Возьмем, к примеру, понятие группы, широко применяемое едва ли не во всех разделах математики и далеко за ее пределами, в частности в теоретической физике. Ее классическое определение подразумевает, что над элементами данного множества можно выполнять некоторую операцию, причем операция эта ассоциативна, существует единичный элемент, и каждый элемент множества обратим. В теории категорий группа определяется существенно проще: это категория, состоящая из единственного объекта, в которой все морфизмы являются изоморфизмами. Другой пример - предупорядоченное множество, лежащее в основе исследования различных свойств упорядочения. Стандартное определение предполагает, что речь идет о множестве, для элементов которого определено рефлексивное транзитивное отношение. В теории категории это категория, любые два объекта которой связаны не более чем одним морфизмом. А топос, являющийся специфической категорией, оказывается теоретико-категорным аналогом понятия множества [3], то есть важнейшие положения самой теории множеств можно описать средствами теории категорий. В некотором смысле соотношение между теоретико-множественным и теоретико-категорийным подходами аналогично соотношению между классическим и обобщенным решениями задач математической физики. Пусть, к примеру, рассматривается однородная задача Дирихле в n-мерной области W для уравнения Пуассона. Классическим решением задачи называется дважды непрерывно дифференцируемая функция и, в каждой точке области W удовлетворяющая уравнению и обращающаяся в нуль на ее границе. Обобщенным же решением той же задачи называется функция u из пространства Соболева, удовлетворяющая интегральному равенству для всех значений l из пространства Соболева. В то время как дифференциальное уравнение в классическом подходе рассматривается отдельно в каждой точке заданной области, интегральное равенство в обобщенном подходе реализуется однократно и характеризует задачу в целом. При этом здесь присутствует функция l, не имеющая прямого отношения к самой задаче. Ее можно интерпретировать как внешнее воздействие на систему, а само интегральное равенство при этом характеризует отклик системы на произвольное воздействие извне. Хотя со времени цитированного выше утверждения Дьёдонне прошло уже шестьдесят лет, мы по-прежнему еще не можем в полной степени оценить все последствия возникновения теории категорий, а также возможные направления ее применения. Но уже сейчас ясно, что она не только вносит свежую струю в развитие всей математики, но и выходит далеко за ее пределы. Во многих направлениях физики теоретико-категорийный подход представляется более естественным, чем теоретико-множественный: там, где наибольший интерес представляет не внутренняя структура объекта, а его реакция на воздействие извне [4]. Глубокие приложения теории категорий просматриваются и в информатике [5]. В частности, она играет фундаментальную роль в функциональном языке Haskell. Насколько же серьезные изменения произойдут в математике под влиянием теории категорий, сможет ли она в полной степени заменить теорию множеств в основаниях математики, покажет время.