Множеств теория, учение об общих свойствах множеств, преимущественно бесконечных. Понятие множества, или совокупности, принадлежит к числу простейших математических понятий; оно не определяется, но может быть пояснено при помощи примеров. Так, можно говорить о множестве всех книг, составляющих данную библиотеку, множестве всех точек данной линии, множестве всех решений данного уравнения. Книги данной библиотеки, точки данной линии, решения данного уравнения являются элементами соответствующего множества. Чтобы определить множество, достаточно указать характеристическое свойство элементов, т. е. такое свойство, которым обладают все элементы этого множества и только они. Может случиться, что данным свойством не обладает вообще ни один предмет; тогда говорят, что это свойство определяет пустое множество. То, что данный предмет х есть элемент множества М, записывают так: х Î М (читают: х принадлежит множеству М).
Подмножества. Если каждый элемент множества А является в то же время элементом множества В, то множество А называется подмножеством, или частью, множества В. Это записывают так: A Í В или В Ê А. Т. о., подмножеством данного множества В является и само множество В. Пустое множество, по определению, считают подмножеством всякого множества. Всякое непустое подмножество А данного множества В, отличное от всего множества В, называют правильной частью последнего.
Мощность множеств. Первым вопросом, возникшим в применении к бесконечным множествам, был вопрос о возможности их количественного сравнения между собой. Ответ на этот и близкие вопросы дал в конце 70-х гг. 19 в. Г. Кантор, основавший М. т. как математическую науку. Возможность сравнительной количественной оценки множеств опирается на понятие взаимно однозначного соответствия между двумя множествами. Пусть каждому элементу множества А поставлен в соответствие в силу какого бы то ни было правила или закона некоторый определённый элемент множества В; если при этом каждый элемент множества оказывается поставленным в соответствие одному и только одному элементу множества А, то говорят, что между множествами А и В установлено взаимно однозначное, или одно-однозначное, соответствие [сокращённо: (1—1)-соответствие]. Очевидно, между двумя конечными множествами можно установить (1—1)-соответствие тогда и только тогда, когда оба множества состоят из одного и того же числа элементов. В обобщение этого факта определяют количественную эквивалентность, или равномощность, двух бесконечных множеств как возможность установить между ними (1—1)-соответствие.
Ещё до создания М. т. Б. Больцановладел, с одной стороны, вполне точно формулированным понятием (1—1)-соответствия, а с другой стороны, считал несомненным существование бесконечностей различных ступеней; однако он не только не сделал (1—1)-соответствие основой установления количественной равносильности множеств, но решительно возражал против этого. Больцано останавливало то, что бесконечное множество может находиться в (1—1)-соответствии со своей правильной частью. Например, если каждому натуральному числу n поставить в соответствие натуральное число 2n, то получим (1—1)-соответствие между множеством всех натуральных и множеством всех чётных чисел. Вместо того чтобы в применении к бесконечным множествам отказаться от аксиомы: часть меньше целого, Больцано отказался от взаимной однозначности как критерия равномощности и, т. о., остался вне основной линии развития М. т. В каждом бесконечном множестве М имеется (как легко доказывается) правильная часть, равномощная всему М, тогда как ни в одном конечном множестве такой правильной части найти нельзя. Поэтому наличие правильной части, равномощной целому, можно принять за определение бесконечного множества (Р. Дедекинд).
Для двух бесконечных множеств А и В возможны лишь следующие три случая: либо А есть правильная часть, равномощная В, но в В нет правильной части, равномощной А; либо, наоборот, в В есть правильная часть, равномощная А, а в А нет правильной части, равномощной В; либо, наконец, в А есть правильная часть, равномощная В, и в В есть правильная часть, равномощная А. Доказывается, что в третьем случае множества А и B равномощны (теорема Кантора — Бернштейна). В первом случае говорят, что мощность множества А больше мощности множества В, во втором — что мощность множества В больше мощности множества А. A priori возможный четвёртый случай — в А нет правильной части, равномощной В, а в В нет правильной части, равномощной А, — в действительности не может осуществиться (для бесконечных множеств).
Ценность понятия мощности множества определяется существованием неравномощных бесконечных множеств. Например, множество всех подмножеств данного множества М имеет мощность большую, чем множество М. Множество, равномощное множеству всех натуральных чисел, называется счётным множеством. Мощность счётных множеств есть наименьшая мощность, которую может иметь бесконечное множество; всякое бесконечное множество содержит счётную правильную часть. Кантор доказал, что множество всех рациональных и даже всех алгебраических чисел счётно, тогда как множество всех действительных чисел несчётно. Тем самым было дано новое доказательство существования т. н. трансцендентных чисел, т. е. действительных чисел, не являющихся корнями никакого алгебраического уравнения с целыми коэффициентами (и даже несчётность множества таких чисел). Мощность множества всех действительных чисел называется мощностью континуума. Множеству всех действительных чисел равномощны: множество всех подмножеств счётного множества, множество всех комплексных чисел и, следовательно, множество всех точек плоскости, а также множество всех точек трёх- и вообще n-мерного пространства при любом n. Кантор высказал гипотезу (т. н. континуум-гипотезу): всякое множество, состоящее из действительных чисел, либо конечно, либо счётно, либо равномощно множеству всех действительных чисел; по поводу этой гипотезы и существенных связанных с нею результатов см.(смотри) Континуума проблема.
Отображения множеств. В М. т. аналитическое понятие функции, геометрическое понятие отображения или преобразования фигуры и т. п. объединяются в общее понятие отображения одного множества в другое. Пусть даны два множества Х и Y, пусть каждому элементу х Î Х поставлен в соответствие некоторый определённый элемент у = f(x) множества Y; тогда говорят, что имеется отображение множества Х в множество Y, или что имеется функция, аргумент х которой пробегает множество X, а значения у принадлежат множеству Y; при этом для каждого данного х Î Х элемент у = f(x) множества Y называется образом элемента х Î Х при данном отображении или значением данной функции для данного значения её аргумента х.
Примеры. 1) Пусть задан в плоскости с данной на ней прямоугольной системой координат квадрат с вершинами (0; 0), (0; 1), (1; 0), (1; 1) и осуществлена проекция этого квадрата, например на ось абсцисс; эта проекция есть отображение множества Х всех точек квадрата на множество Y всех точек его основания; точке с координатами (х; у) соответствует точка (х; 0).
2) Пусть Х — множество всех действительных чисел; если для каждого действительного числа x Î X положить у = f(x) = x3, то тем самым будет установлено отображение множества Х в себя.
3) Пусть Х — множество всех действительных чисел; если для каждого х Î Х положить у = f(x) = arctg х, то этим будет установлено отображение множества Х на интервал ( — p/2, p/2).
(1—1)-соответствие между двумя множествами Х и Y есть такое отображение множества Х в множество Y, при котором каждый элемент множества Y является образом одного и только одного элемента множества X. Отображения примеров 2) и 3) взаимно однозначны, примера 1) — нет.
Операции над множествами. Суммой, или объединением, двух, трёх, вообще произвольного конечного или бесконечного множества множеств называется множество всех тех предметов, каждый из которых есть элемент хотя бы одного из данных множеств-слагаемых. Пересечением двух, трёх, вообще любого конечного или бесконечного множества множеств называется множество всех элементов, общих всем данным множествам. Пересечение даже двух непустых множеств может быть пустым. Разностью между множеством В и множеством А называется множество всех элементов из В, не являющихся элементами из А: разность между множеством В и его частью А называется дополнением множества А в множестве В.
Операции сложения и пересечения множеств удовлетворяют условиям сочетательности и переместительности (см. Ассоциативность, Коммутативность). Операция пересечения, кроме того, распределительна по отношению к сложению и вычитанию. Эти действия обладают тем общим свойством, что если их производить над множествами, являющимися подмножествами одного и того же множества М, то и результат будет подмножеством множества М. Указанным свойством не обладает т. н. внешнее умножение множеств: внешним произведением множеств Х и Y называется множество Х ´ У всевозможных пар (х, у), где х Î Х, y Î Y. Другим в этом смысле «внешним» действием является «возведение в степень»: степенью YX называется множество всех отображений множества Х в множество Y. Можно определить внешнее умножение любого множества множеств так, что в случае совпадения множителей оно перейдёт в возведение в степень. Если x и h мощности множеств Х и Y, то xh и hx определяются соответственно как мощности множеств Х ´ Y и YХ, что в случае конечных множеств согласуется с умножением и возведением в степень натуральных чисел. Аналогично определяется сумма мощностей как мощность суммы попарно непересекающихся множеств с заданными мощностями.
Упорядоченные множества. Установить в данном множестве Х порядок — значит установить для некоторых пар x', х" элементов этого множества какое-то правило предшествования (следования), выражаемое словами «элемент x' предшествует элементу х", x' < х"», или, что то же, «элемент x' следует за элементом х", x' < х"», причём предполагается выполненным условие транзитивности: если х < x' и x' < х", то х < х". Множество, рассматриваемое вместе с каким-нибудь установленным в нём порядком, называется «частично упорядоченным множеством»; иногда вместо «частично упорядоченное множество» говорят «упорядоченное множество» (Н. Бурбаки). Однако чаще упорядоченным множеством называется такое частично упорядоченное множество, в котором порядок удовлетворяет следующим дополнительным требованиям («линейного порядка»): 1) никакой элемент не предшествует самому себе; 2) из всяких двух различных элементов х, x' один предшествует другому, т. е. или х < x', или x’ < х.
Примеры. 1) Всякое множество , элементами которого являются некоторые множества х, является «частично упорядоченным ''по включению''»: х < x', если х Ì x'.
2) Любое множество функций f, определённых на числовой прямой, частично упорядочено, если положить f1 < f2, тогда и только тогда, когда для каждого действительного числа х имеем f1(x) £ f2(x).
3) Всякое множество действительных чисел линейно упорядочено: меньшее из двух чисел считается предшествующим большему.
Два упорядоченных множества называются подобными между собой, или имеющими один и тот же порядковый тип, если между ними можно установить (1—1)-соответствие, сохраняющее порядок. Элемент упорядоченного множества называется первым, если он предшествует в этом упорядоченном множестве всем остальным элементам; аналогично определяется и последний элемент. Примеры: в упорядоченном множестве всех действительных чисел нет ни первого, ни последнего элемента; в упорядоченном множестве всех неотрицательных чисел нуль есть первый элемент, а последнего элемента нет; в упорядоченном множестве всех действительных чисел x, удовлетворяющих неравенствам а £ х £ b, число а есть первый элемент, b — последний.
Упорядоченное множество называется вполне упорядоченным, если оно само и всякое его правильное подмножество имеют первый элемент. Порядковые типы вполне упорядоченных множеств называются порядковыми, или ординальными, числами. Если вполне упорядоченное множество конечно, то его порядковое число есть обычное порядковое число элементарной арифметики. Порядковые типы бесконечных вполне упорядоченных множеств называются трансфинитными числами.
Точечные множества. Теория точечных множеств, т. е. в первоначальном понимании слова — теория множеств, элементами которых являются действительные числа (точки числовой прямой), а также точки двух-, трёх- и вообще n-мерного пространства, основана Г. Кантором, установившим понятие предельной точки множества и примыкающие к нему понятия замкнутого множества и др. Дальнейшее развитие теории точечных множеств привело к понятиям метрического пространства и топологического пространства, изучением которых занимается общая топология. Наиболее самостоятельное существование ведёт дескриптивная теория множеств. Основанная французскими математиками Р. Бэром и А. Лебегом в связи с классификацией разрывных функций (1905), дескриптивная М. т. началась с изучения и классификации т. н. борелевских множеств (B-множеств). Борелевские множества определяются как множества, могущие быть построенными, отправляясь от замкнутых множеств, применением операций сложения и пересечения в любых комбинациях, но каждый раз к конечному или к счётному множеству множеств. А. Лебег показал, что те же множества — и только они — могут быть получены как множества точек, в которых входящая в Бэра классификацию действительная функция f(x) обращается в нуль или, более общо, удовлетворяет условию вида а < f(x) £ b. Дальнейшее развитие дескриптивной М. т. было осуществлено преимущественно русскими и польскими математиками, особенно московской школой, созданной Н. Н. Лузиным (П. С. Александров, М. Я. Суслин, М. А. Лаврентьев, А. Н. Колмогоров, П. С. Новиков). Александров доказал теорему (1916) о том, что всякое несчётное борелевское множество имеет мощность континуума. Аппарат этого доказательства был применен Суслиным для построения теории А-множеств, охватывающих как частный случай борелевские (или В-) множества (считавшиеся до того единственными множествами, принципиально могущими встретиться в анализе). Суслин показал, что множество, дополнительное к А-множеству М, является само А-множеством только в том случае, когда множество М — борелевское (дополнение к борелевскому множеству есть всегда борелевское множество). При этом А-множества оказались совпадающими с непрерывными образами множества всех иррациональных чисел. Теория А-множеств в течение нескольких лет оставалась в центре дескриптивной М. т. до того, как Лузин пришёл к общему определению проективных множеств, которые могут быть получены, отправляясь от множества всех иррациональных чисел при помощи повторного применения операции вычитания и непрерывного отображения. К теории А-множеств и проективных множеств относятся также работы Новикова и др. Дескриптивная М. т. тесно связана с исследованиями по основаниям математики (с вопросами эффективной определимости математических объектов и разрешимости математических проблем).
Значение М. т. Влияние М. т. на развитие современной математики очень велико. Прежде всего, М. т. явилась фундаментом ряда новых математических дисциплин (теории функций действительного переменного, общей топологии, общей алгебры, функционального анализа и др.).
Постепенно теоретико-множественные методы находят всё большее применение и в классических частях математики. Например, в области математического анализа они широко применяются в качественной теории дифференциальных уравнений, вариационном исчислении, теории вероятностей и др.
Наконец, М. т. оказала глубокое влияние на понимание самого предмета математики или таких её больших отделов, как геометрия. Только М. т. позволила отчётливо сформулировать понятие изоморфизма систем объектов, заданных вместе со связывающими их отношениями, и привела к пониманию того обстоятельства, что каждая математическая теория в её чистой абстрактной форме изучает ту или иную систему объектов лишь «с точностью до изоморфизма», т. е. может быть без всяких изменений перенесена на любую систему объектов, изоморфную той, для изучения которой теория была первоначально создана.
Что касается М. т. в вопросах обоснования математики, т. е. создания строгого, логически безупречного построения математических теорий, то следует иметь в виду, что сама М. т. нуждается в обосновании применяемых в ней методов рассуждения. Более того, все логические трудности, связанные с обоснованием математического учения о бесконечности (см. Бесконечность в математике), при переходе на точку зрения общей М. т. приобретают лишь большую остроту (см. Аксиоматическая теория множеств, Логика, Конструктивная математика, Континуум).
Лит.: Лузин Н. Н., Теория функций действительного переменного, 2 изд., М., 1948; Александров П. С., Введение в общую теорию множеств и функций, М. — Л., 1948; Хаусдорф Ф., Теория множеств, пер.(перевод) с нем.(немецкий), М. — Л., 1937.