В конце концов, после того как все попытки Кантора найти среднее множество провалились, в 1877 году он пришел к выводу, что его не существует, и сформулировал так называемую «континуум-гипотезу»: не существует никакого бесконечного множества, мощность которого была бы промежуточной между мощностью натуральных и вещественных чисел (см. рисунок).
Гипотеза — это утверждение, которое пока не было ни доказано, ни опровергнуто. В данном случае для подтверждения гипотезы нужно было бы доказать, что не существует множества с промежуточной мощностью между множеством натуральных и вещественных чисел, а для опровержения — найти такое множество.
В 1877 году Кантор был убежден в правильности своей гипотезы, хотя и не сумел доказать ее. Этот вопрос занимал его долгие годы, и в 1833 году его желание получить подтверждение своим идеям стало для него делом огромной важности. Ответ был довольно неожиданным.
Как мы уже говорили, любой отрезок, любой квадрат и плоскость имеют одинаковую мощность. То же самое относится и к кубу, и ко всему трехмерному пространству.
Один из выводов из этого положения: если мы обратимся к отрезку, который начертили раньше, фрагмент между точками 0 и 0,0000000000001 (минимальной длины, его невозможно увидеть невооруженным глазом) имеет точно такую же степень бесконечности, как и все трехмерное пространство, хотя оно занимает актуально бесконечный объем, гораздо больший, чем объем Вселенной (если считать, что у Вселенной конечный объем).
Это заключение, хотя и математически верное, настолько противоречит здравому смыслу, что с ним было очень сложно согласиться, тем более в 1870 году, когда большинство математиков сомневались в самом факте существования актуальной бесконечности.
Кантор изложил эти выводы в статье 1877 года Ein Beitrag zur Mannigfaltigkeitslehre («К учению о многообразиях»). Для Кантора «многообразие» было синонимом «множества».
В июле он отправил текст в авторитетный берлинский «Журнал Крелле», который уже опубликовал его работу в 1874 году.
Но на сей раз ситуация была иной.
Тогда Кантор доказывал, что вещественные числа нельзя записать в виде последовательности, и заключал, что на любом отрезке числовой оси есть бесконечное количество трансцендентных чисел (бесконечность в контексте той статьи можно было интерпретировать как мощность). По совету Вейерштрасса Кантор сделал едва заметный намек на возможность сравнения двух бесконечных множеств и не стал развивать эту тему. К тому же он даже не поднял вопрос самого понятия мощности.
Сравнение бесконечных множеств стало лейтмотивом статьи 1877 года, причем трактовалось оно не просто как способ доказательства числового результата. В ней Кантор начал с определения того, что два множества эквивалентны, если между ними можно установить взаимно однозначное соответствие. Он также проиллюстрировал понятие мощности и вернулся к теореме 1874 года о трансцендентных числах, но в контексте сравнения бесконечных множеств. Затем ученый доказывал, что отрезок без одного конца эквивалентен отрезку с двумя концами и что отрезок эквивалентен квадрату. В конце Кантор впервые открыто изложил континуум-гипотезу.
Французский математик Анри Пуанкаре, 1908 год
Содержание этой статьи было очень спорным для того времени, так что Кантор столкнулся с серьезной критикой. Он писал Дедекинду 10 ноября 1877 года: