Аксіоматична теорія безлічі, формулювання безлічі теорії у вигляді формальної (аксіоматичною) системи (див. Аксіоматичний метод ) . Основною спонукальною стимул-реакцією для побудови А. т. м. з'явилося відкриття в «наївній» теорії безлічі Р. Кантора . призначеної для обгрунтування класичної математики, парадоксів (антиномій), тобто протиріч. Всі ці парадокси (наприклад, парадокс Кантора, пов'язаний з розглядом «безлічі всієї безлічі», або парадокс Рассела, в якому розглядається «безліч всієї безлічі, що не містить самих себе як елемент») обумовлені необмеженим вживанням в канторової теорії безлічі т.з. принципу згортання (або абстракції), згідно з яким для всякої властивості існує безліч, що складається зі всіх предметів, що володіють цією властивістю (цей принцип фактично міститься вже в першій фразі всіх традиційних викладів теорії безлічі: «ми розглядатимемо довільну безліч елементів довільної природи» і тому подібне).
В першій з відомих систем А. т. м. — системі Цермела — Френкеля, або ZF (сформульована в 1908 Е. Цермело, поповнена в 1921 — 22 і пізніше А. Френкелем), принцип згортання замінюється декількома його окремими випадками: аксіомою існування пари {х,у} будь-якої (даних) безлічі х і в, аксіомою існування об'єднання всіх елементів довільної безлічі х в нову безліч S ( x ), аксіомою існування безлічі Р ( х ) всіх частин довільної безлічі х, аксіомою існування безконечної безлічі і т.з. схемами аксіом виділення (згідно якої для всякої безлічі х і властивості р існує безліч елементів х, що володіють властивістю j) і підстановки (що стверджує, що для будь-якого взаємно однозначного відображення елементів безлічі х, описуваного на мові системи ZF, існує безліч таких z, на яких відображуються ці елементи х ) . Не підпадає під схему принципу згортання т.з. аксіома вибору (про існування «безлічі представників», тобто безліч що містить в точності по одному елементу з кожного з даних непорожньої безлічі, що попарно не перетинається). Як і у всякій іншій системі А. т. м., в ZF постуліруєтся також аксіома об'ємності (екстенсиональності), згідно якої безліч, що складається з одних і тих же елементів, збігається. Інколи до ZF приєднують деякі ін. аксіоми більш спеціального призначення. Формули ZF виходять з «елементарних формул» вигляду х Î в (« x належить в ») засобами числення предикатів .
Пізніше були побудовані багаточисельні видозміни ZF і систем, що відрізняються від ZF тим, що «погані» (що приводять до парадоксам) сукупності елементів не зовсім виключаються з розгляду, а визнаються «власне класами», тобто безліччю, що не може належати як елемент іншій безлічі (ця ідея, що йде від Дж .Неймана, була потім розвинена швейцарським математиком П. Бернайсом, До.Геделем і ін.). Системи ці, на відміну від ZF, можуть бути задані за допомогою кінцевого числа аксіом.
Інший підхід к А. т. м. втілений в теорії типів Би. Рассела і А. Н. Уайтхеда (Англія, 1910—13) і її різних модифікаціях, в яких на аксіому згортання не накладають типових для ZF і ін. систем обмежень, але реформують саму мову теорії: замість одного алфавіту змінних х, в, z... вводиться безконечна послідовність алфавітів: x 1 , в 1 , z 1 ,...; x 2 , в 2 , z 2 ,...;...; x n , в n , z n ,...;... різних «типів» n, а елементарні формули мають вигляд x n Î в n+1 або
x n = в n . Теорії типів будуються на основі числення предикатів з різними видами змінних [а при природній заміні символіки x n Î в n+1 на в n+1 ( x n ) і x n = в n на x n ~ в n самі можуть розглядатися як системи розширеного числення предикатів, а не теорії безлічі]. У системі NF (New Foundation), введеною в 1937 американським математиком В. ст О. Куайном, комбінуються обидва згадані підходи: мова NF — той же, що в ZF, а аксіоми згортання повинні виходити з аксіом теорії типів видаленням індексів при змінних.
Для різних систем А. т. м. і окремих їх аксіом розглядалося питання про їх (відносною) несуперечності . В 1940 К. Гедель довів відносну несуперечність аксіоми вибору і континууму-гіпотези (див. Континууму проблема ) для описаної їм системи å і ZF; надалі цей результат був перенесений на теорію типів (найслабкішу з перерахованих систем), а потім і на NF (у відповідній формі). У 1963 американський математик П. Дж. Коен довів для ZF (а тим самим і для å ) відносну несуперечність заперечення континууму-гіпотези, в т.ч.(у тому числі) і у випадку, якщо до ZF приєднана аксіома вибору. Він же довів, що до ZF можна приєднати без виникнення протиріччя аксіому про те, що континуум не може бути сповна впорядкований (з цієї аксіоми відразу виходить заперечення аксіоми вибору).
Згаданих обмежень на принцип згортання (або на мову системи) вистачає, щоб в А. т. м. не виникав жоден з відомих парадоксів. Проте проблема абсолютної несуперечності, зважаючи на теорему Геделя про неповноту (див. Метатеорія ) , вимагає залучення істотно нових ідей. Зокрема, отримане в 1960 доказ несуперечності ZF (і теорії типів, але не NF ) зажадало залучення засобів т.з. ультраїнтуїционізма.
Літ.: Гедель До., Сумісність аксіоми вибору і узагальненої континууму-гіпотези з аксіомами теорії безлічі, пер.(переведення) з англ.(англійський), «Успіхи математичних наук», 1948, т. 3, ст 1; Есенін-Вольпін А. С., До обгрунтування теорії безлічі, в збірці: Вживання логіки в науці і техніці, [М., I960], с. 22 — 118; Френкель А. А. і Бар-Хиллел І., Підстави теорії безлічі, пер.(переведення) з англ.(англійський) М., 1966 (бібл.); Коен П. Дж., Теорія безлічі і континуум-гіпотеза, пер.(переведення) з англ.(англійський), М., 1969; Quine W. О. van, Set theory and its logic, Camb., 1963.