Главная мысль Свердлова заключалась в том, что Советская Конституция должна ввести строгий порядок, стройность во всю систему советских государственных органов, вместе с тем должна стать могущественным стимулом дальнейшего развития советского демократизма, рычагом для вовлечения широких народных масс в управление государством. „Все мы великолепно сознаем, — говорил Свердлов, — что только благодаря самой тесной связи с широкими массами рабочих и крестьян нам удается проводить все те мероприятия, которые мы намечаем. Только постольку, поскольку нам удается выделить из массы достаточное количество активных сознательных работников, могущих практически проводить в жизнь все намечаемые мероприятия, поскольку мы имеем кадры таких товарищей, — мы можем сказать, что дело обеспечено… при разработке конституции необходимо построить Советскую власть таким образом, чтобы она не только давала возможность работы, но чтобы привлекала значительно более широкие круги трудового народа к непосредственному управлению страной“.
Конституция, как считал Свердлов, должна рассматривать все советские органы — от ВЦИКа до сельского Совета — как школы государственного строительства, школы государственного руководства.
В состав конституционной комиссии от большевиков вошли Я. М. Свердлов (председатель), В. А. Аванесов (секретарь), М. Н. Покровский, И. В. Сталин; от левых эсеров — А. А. Шрейдер, от эсеров-максималистов — Д. А. Магеровский. Кроме того, в состав комиссии были введены представители наркоматов — по национальным делам, внутренних дел, юстиции, финансов: М. Я. Лацис, М. А. Рейснер, Д. П. Боголепов и др. К работе конституционной комиссии был привлечен также ряд крупных специалистов.
Более трех месяцев напряженно работала комиссия. Все эти три месяца Свердлов почти ежедневно приходил в светлые комнаты угловой части „Метрополя“, где расположилась комиссия, изучал материалы, участвовал в заседаниях.
Здание это, украшенное сказочными фресками Врубеля, было к этому времени не гостиницей, а „Вторым домом Советов“. И в его стенах происходили поистине сказочные дела. Здесь был один из центров клокочущей революционной энергией России. Здесь собирался на свои заседания высший орган государственной власти — ВЦИК. Здесь обсуждались важнейшие вопросы государственной жизни Советской республики. Экономика, культура, военное строительство, национальные отношения… Что же было главным в этом потоке революционных свершений? Позднее, подводя итоги первых грозовых лет революции, Ленин выделил главное звено для 1918 года — создание Конституции, в которой отразился процесс превращения Советов в единую и стройную государственную систему.
Вхождение в конституционную комиссию эсеров и максималистов вносило некоторый разнобой в ее работу. Нужны были выдержка и целеустремленность Свердлова чтобы придать всей деятельности конституционной комиссии деловой характер и постоянно отбивать различного рода эсеровские, полуанархистские, синдикалистские атаки. „Экономный распределитель времени и своего и чужого, Свердлов умел переходить от одного дела к следующему, как хороший часовой механизм, заведенный революцией на многие годы, — вспоминает член комиссии М. А. Рейснер. — С первой минуты заседания он втягивал всех в быструю, точную работу, отбрасывая все ненужное, лишнее, мешающее делу“. М. А. Рейснер отмечает, что материал, накопившийся в комиссии, „был до смущения разнообразным“. Одни приносили на заседание комиссии священные книги буржуазной науки — толстые тома таких государствоведов, как Еллинек. Другие думали создать в виде Советов федерацию трудовых синдикатов, нечто вроде анархического союза профессиональных объединений…» «Трудно здесь и перечислить, — пишет далее М. А. Рейснер, — все различие мнений, которые, с одной стороны, явно цеплялись за испытанный буржуазный демократический шаблон, а с другой стороны — столь же явно впадали в утопию…
Я. М. Свердлов был председателем комиссии. И, по правде сказать, лишь он один был в состоянии вывести комиссию из ее многоразличных разноречий и дать форму, которая точно отражала существующее и вместе с тем открывала пути и ставила вехи для грядущего».