Николай Васильевич в качестве наркома юстиции развил бурную деятельность. В эти годы он был особенно активен и неутомим. Правда, он теперь уже не выступал в громких уголовных и политических процессах, предоставив это делать А. Я. Вышинскому. Однако сотни проведенных им коллегий, совещаний, активов, съездов, многочисленные выступления перед населением и в печати, поездки по стране — все это свидетельствовало о титанической работе, проводимой им в наркомате. Конечно, он был верным проводником идей партии и правительства, по-прежнему громил «классовых врагов» и был беспощаден к ним. В то же время, знакомясь с жизнью и деятельностью Н. В. Крыленко, всякий раз убеждаешься, что этот не раз ошибавшийся человек, очень часто излишне суровый, имел страстную и увлекающуюся натуру, был одержимой и талантливой личностью.
Постановлением ЦИК и СНК СССР от 20 июня 1933 года была учреждена Прокуратура Союза ССР. Первым Прокурором СССР стал Иван Алексеевич Акулов, известный революционер, партийный и советский деятель, но в то же время человек, далекий не только от прокурорской, но и вообще от юридической деятельности. На этот пост мог претендовать и Н. В. Крыленко, однако его обошли. Он продолжал руководить Наркоматом юстиции РСФСР и в 1935 году все еще находился на вершине славы. К этому времени Крыленко имел ордена Ленина и Красного Знамени (награжден в 1933 году) и был исключительно популярен в народе.
На 1935 год пришлись два юбилея Н. В. Крыленко — 30-летие его активной революционной и профессиональной деятельности и 50-летие со дня рождения. В печати было опубликовано много приветственных статей и поздравлений. В одном из них отмечалось: «Мечом и пером, делом и пламенным словом т. Крыленко отстаивал и отстаивает партийные позиции в борьбе против врагов революции, открытых и тайных».
Н. В. Крыленко был человеком разносторонних интересов. Среди советских прокуроров трудно найти другого, который имел бы такие далекие от юриспруденции интересы, и в которых он достиг подлинного мастерства. К 50 годам Н. В. Крыленко был не только лидером в юридической науке и практике (список его трудов приближается к сотне), но и признанным мастером-альпинистом, не раз (даже в одиночку) штурмовавшим неприступные горные вершины. О своих походах он написал несколько книг. Он активно занимался развитием туризма в стране, руководил обществом охотников и шахматной организацией страны.
В 1936 году Н. В. Крыленко занял высокий пост наркома юстиции Союза ССР.
Приближался 1937 год — год массовых репрессий. 5 декабря 1936 года принимается новая Конституция СССР, названная «сталинской». Николай Васильевич Крыленко находится в самом расцвете сил. Казалось бы, такой пламенный революционер, незаурядный человек, искренне преданный идеям большевизма и доказавший это всей своей деятельностью, должен был бы рассчитывать на звездную карьеру. Но этого не случилось.
К этому времени у Николая Васильевича была уже большая семья: вторая жена, Зинаида Андреевна Железняк, и четверо детей: сыновья Сергей и Николай, и дочери Ирина и Марина.
Над головой Н. В. Крыленко плотно сгущались грозовые облака. 26 июля 1937 года был арестован его брат, Владимир Васильевич, работавший на Уралмедстрое заместителем главного инженера (расстрелян в марте 1938 года).
В конце 1937 года в ЦК ВКП(б) «неожиданно» стали поступать письма и заявления, в которых основательно чернилась деятельность Н. В. Крыленко. В одном из них на имя Мехлиса (копия предусмотрительно была направлена и в Секретариат И. В. Сталина), озаглавленном «О хамах и иудах», сообщалось, что Крыленко груб по отношению к посетителям, а его «неистовый крик, топанье ногами, угрозы, стопудовые остроты… общеизвестны», что любимым изречением наркома было «расстрелять», произносимое им через неоднократное «р-р-р» и «металлическим» («под Троцкого») голосом». Доносчик припомнил одну фразу якобы произнесенную Крыленко, бывшим тогда прокурором республики и одновременно руководителем Союза охотников: «Мне дан мандат и на зверей, и на людей».
12 января 1938 года открылась 1-я сессия Верховного Совета СССР, избранного на основе новой Конституции СССР. При формировании Правительства СССР выступили ряд делегатов. В своей речи депутат М. Д. Багиров (выполняя данную ему установку) подверг резкой критике деятельность наркома юстиции СССР Н. В. Крыленко. В новое правительство Николай Васильевич уже не вошел.