И хотя в середине 1710‐х годов приказ перестал быть единственным органом сыска (часть сыскных дел перешла к «маэорским канцеляриям» и к Тайной канцелярии), Ф. Ю. Ромодановский до самой своей смерти в 1717 году оставался главным палачом державы. Место отца занял его сын – князь Иван, который подал царю челобитную, в которой «со всегорестными слезами о конечном сиротстве» просил его не оставить милостями, а главное – батюшкиным служебным «наследством». Но Ромодановскому-младшему не повезло – во время его судейства шли непрерывные реорганизации, у кормила власти постоянно менялись люди, и в 1728 году под предлогом болезни он ушел в отставку. В 1729 году сам Преображенский приказ был распущен, хотя его помещение использовалось с теми же целями лет восемьдесят.
Во второй половине 1710‐х годов важное место в системе политического сыска заняли так называемые «маэорские» розыскные канцелярии, которые так именовались из‐за того, что во главе них стояли майоры гвардии. Они ведали каким-либо конкретным розыскным делом по личному поручению царя. Петр часто прибегал к услугам гвардейцев для самых разных поручений. Канцелярии майоров (а их насчитывалось 12) по своей сути были временными следственными комиссиями, похожими на сыскные приказы XVII века. Подчас они, начав с одного дела, быстро разрастались в целое учреждение со штатом приказных и обширным делопроизводством.
Майорские канцелярии занимались преимущественно делами по «третьему пункту» («кража государственного интереса», «похищения казны»), а также другими должностными преступлениями. Но царь часто передавал майорам и политические дела. Майорским канцеляриям предоставлялись значительные права проводить весь цикл расследования (допросы, очные ставки, пытки) и готовить проекты приговоров. Царь был в курсе дел канцелярий и направлял весь ход расследования в них. К 1724 году Петр, завершая государственную реформу, решил ликвидировать ставшие уже ненужными «маэорские канцелярии». Указ об этом был издан 22 января 1724 года. Чуть раньше Петр решил прикрыть и Канцелярию тайных розыскных дел.
Канцелярия тайных розыскных дел, более известная как Тайная канцелярия, возникла в начале расследования дела царевича Алексея, хотя указ о ее образовании не найден. 4 февраля 1718 года Петр продиктовал П. А. Толстому «пункты» для первого допроса сына-преступника. Позже именно к Толстому и стала сходиться вся информация по начатому розыску. Вокруг него – типичного петровского порученца – сложился штат приказных новой, но весьма похожей на майорские розыскной канцелярии, хотя до самого переезда в Петербург весной 1718 года ведомство Толстого канцелярией не называлось. Иначе говоря, розыск по делу царевича Алексея поначалу был личным поручением Толстому, точно так же как раньше по заданию Петра А. Д. Меншиков вел Кикинское дело, которое было частью следствия по делу Алексея.
Выбор Петра Андреевича Толстого на роль руководителя розыска по делу царевича можно объяснить тем, что он до этого блестяще провел операцию по возвращению из‐за границы блудного царского сына. В Италии, где Толстой настиг царевича, он сумел уговорить Алексея вернуться домой, причем сделал это не без обмана. Не случайно привлеченный по делу царевича Иван Нарышкин Толстого «называл Иудою, он-де царевича обманул и выманил». После успешной миссии в Италии царь поручил Толстому уже расследование дела о побеге царевича. До этой истории Толстой не входил в круг ближайших сподвижников Петра. В молодости он принадлежал к враждебной Петру группировке Милославских, но потом сумел добиться царского расположения. Человек уже не молодой (родился или в 1653 или в 1654 году), в начале 1697 года Толстой отправился учиться на моряка, чем особенно угодил государю-шкиперу. В 1701 году он стал посланником в Стамбуле и проявил там незаурядный талант дипломата. Вернувшись в 1714 году в Россию, Толстой стал служить в Посольской канцелярии. По роду своих занятий и склонностям П. А. Толстой был более всего дипломатом, хитрым, изворотливым и умным, но, как многие другие сподвижники Петра I, он мог заниматься и самыми разными делами.
Петр I, по-видимому, не особенно доверял Толстому, но умел ценить его дар ловкого дипломата, ум и рвение. Толстой же постоянно показывал свою преданность Петру, был готов выполнить любое его задание, не задумываясь над моральной стороной дела. Толстой не только помогал Петру вести допросы царевича, но и занимался «ответвлениями» главного розыска – вел допросы близких к царевичу людей. По окончании дела Толстой стал графом, тайным советником, президентом Коммерц-коллегии, сенатором, владельцем обширных вотчин.