Летом 1921 года Мандельштам, получив известия из Киева, где его ждала Надя Хазина, едет туда, и вместе они отправляются в Закавказье, по маршруту Ростов — Кисловодск — Баку — Тифлис — Батум — Сухум — Новороссийск. Из знаменательных встреч этой поездки — посещение Вяч. Иванова в Баку, где Иванов преподавал в университете, и знакомство в Батуме с Михаилом Булгаковым. Спустя год, весной 1922 года, Мандельштамы через Киев (где они поженились) возвращаются в Москву и поселяются в Доме Герцена — писательском общежитии на Тверском бульваре. Начался новый период жизни — период зрелости. Мандельштам стал женат — и это так не подходило к облику его юности, который хорошо помнили его эмигрировавшие приятели.
«Мы поселились в Москве, и я никогда не видела Мандельштама таким сосредоточенным, суровым и замкнутым, как в те годы», — писала об этом времени Н. Я. Мандельштам[27]. Стихи угасали, их вытесняли переводы, в большинстве своем прозаические, — только они и приносили деньги на пропитание. Творчество Мандельштама (как и Ахматовой) было признано «классово чуждым», и имя его с середины 1920-х годов постепенно исчезает из списков сотрудников периодических изданий.
С 1924 по 1928 год Мандельштамы живут в Ленинграде — снимают комнату на ул. Герцена, а затем в Детском Селе, в размещенном тогда в здании Лицея пансионате. Портрет Мандельштама этих лет оставила в своих воспоминаниях знакомая семьи, Иза Давыдовна Ханцин[28]: «Все мы, во всяком случае большинство, принадлежим к какой-нибудь породе животных — Осип Эмильевич был похож на птицу; это птичье сказывалось во всем. Его голова была чуть поднята кверху и наклонена набок при опять же птичьей летящей походке. Его лицо всегда обращало на себя внимание из-за необыкновенно выразительных глаз — страданье в них сменялось нежностью, задумчивостью; иногда в них было отсутствующее выражение.
Главным в этом человеке была эмоциональная окраска всего, что бы он ни делал: на все повышенная реакция. Он был легко раним и впечатлителен, очень остро все воспринимал.
На протяжении всех лет, что я его знала, он подсознательно — а возможно, и сознательно — сопротивлялся всему бытовому... Ему было все равно, что на нем надето. Вот пример: в Ростове он отправился в парикмахерскую, потом зашел за нами в Кафе поэтов и сказал, что забыл в парикмахерской шляпу; мы все отправились за шляпой, но гардеробщик выгнал нас, сказав, что Мандельштама он видит впервые. Оказалось, что за углом есть другая парикмахерская, туда Осип Эмильевич пошел уже один — мы побоялись. На этот раз он не ошибся и вышел в шляпе — но в какой! — это было что-то вроде котелка неопределенного цвета и формы, в который Мандельштам почти провалился.
— Ося, что у тебя на голове?! — говорила Надя. Он удивлялся: — Как, разве это не моя шляпа? — Мандельштам не знал своих вещей. И вещи не любили его и убегали от него, все пропадало. Надежда Яковлевна без конца искала исчезнувшие вещи.
Так же он относился и к деньгам — радовался им и очень легко, сам не зная на что, тратил, так что денег, как правило, не было... Создать ему быт Надежда Яковлевна не могла, он разрушал его тут же, да она и сама не очень это умела — в чем-то они были очень похожи. Их взаимные отношения доходили до общего дыхания. Ей было много хлопот с ним: она старалась уберечь его от непонимания и нападок, она боялась отпускать его одного — он не умел соблюдать правил так называемого порядка, в котором очень плохо разбирался, и потому боялся уличной администрации — милиционеров и управхозов; кроме того, он был рассеян. Эта постоянная боязнь чего-то ощущалась в нем постоянно, он словно предчувствовал свой рок.
Как чтец своих стихов Мандельштам незабываем. Ему была присуща поразительная музыкальность, и ритм стихов он ощущал и передавал не как производную метра, а как музыку. Ритм был ему врожден. Свои стихи он оркестровал поразительно, и как поэт, и как чтец. Интонации его были очень выразительны и разнообразны — все это делало стихи в его устах еще значительнее»[29].