К 1879 г. у «тихого и умного» П.А. Черевина была не только крепкая репутация безупречно храброго боевого кавалерийского офицера, но и опыт административной работы в мятежном Виленском крае, опыт следственной работы в комиссии М.Н. Муравьева. Кроме того, за его спиной стоял цесаревич великий князь Александр Александрович – сторонник последовательных и жестких мер в борьбе с политическим террором. Заметим, что Черевин с большим скепсисом относился к маятниковым колебаниям правительства от либеральных реформ к попыткам максимального «закручивания гаек». Он считал, что прежде всего должна быть проявлена «воля» к осуществлению того или иного определенного политического курса.
Тем не менее вплоть до кончины Александра II П.А. Черевин оставался на вторых ролях, хотя его карьера постепенно шла в гору. 6 февраля 1880 г. по предложению цесаревича великого князя Александра Александровича создается «Верховная распорядительная комиссия по охране государственного порядка и общественного спокойствия». Ее возглавил министр внутренних дел, член Государственного совета, генерал-адъютант М.Т. Лорис-Меликов. В состав комиссии, наряду с К.П. Победоносцевым (член Государственного совета и обер-прокурор), А.К. Имеретинским (начальник Штаба Санкт-Петербургского военного округа) вошел и генерал-майор Свиты Его Императорского Величества, исполняющий обязанности Шефа жандармов П.А. Черевин, которому тогда шел 43-й год458.
Поскольку наследник Александр Александрович «явно высказывал недоверие свое к III Отделению»459, то одной из главных задач комиссии стала реорганизация III Отделения и Отдельного корпуса жандармов. 26 февраля 1880 г. М.Т. Лорис-Меликов представил Александру II доклад, в котором обосновывал необходимость объединения всех полицейских частей под своим командованием. Император согласился с его аргументами. В результате, 3 марта 1880 г Отдельный корпус жандармов был подчинен непосредственно М.Т. Лорис-Меликову, а 4 марта 1880 г., после увольнения генерал-адъютанта А.Р. Дрентельна от должности Шефа жандармов, на эту должность назначили генерал-майора Свиты Его Величества П.А. Черевина. Таким образом, в марте 1880 г. П.А. Черевин возглавил не только III Отделение, но и Отдельный корпус жандармов, ключевые структуры, противостоящие террористам.
Генерал-майор П.А. Черевин возглавлял III Отделение вплоть до его ликвидации 6 августа 1880 г. (по докладу Комиссии Лорис-Меликова). В этот же день П.А. Черевин занял должность товарища министра внутренних дел М.Т. Лорис-Меликова. Вместо III Отделения был образован Департамент государственной полиции (с 18 февраля 1883 г. – Департамент полиции), просуществовавший вплоть до 10 марта 1917 г.
События 1 марта 1881 г. в Санкт-Петербурге, связанные с убийством Александра II, стали рубежными в организации и деятельности служб государственной охраны Российской империи. Проблема обеспечения гарантированной безопасности Александра III превратилась в одну из важнейших задач государственной политики. Назрела острая необходимость провести глубокую реорганизацию системы охраны царя. И к этому важнейшему делу привлекли П.А. Черевина. Более того, он становится одним из создателей охранной системы, а впоследствии ее руководителем. Для этого были все основания: богатый административный опыт, наработанный в кризисных ситуациях (1863–1865 гг.); десятилетний опыт руководства одним из подразделений государственной охраны – Собственным конвоем (1869–1879 гг.); опыт следственной работы в комиссии Муравьева (1866 г.); опыт руководства III Отделением (1879–1880 гг.) и Отдельным корпусом жандармов (1880 г.).
Летом 1881 г. П.А. Черевин стал одним из авторов проекта реорганизации личной охраны Александра III (см. соответствующий раздел). 3 сентября 1881 г. именным указом состоялось назначение на должность «Главного Начальника Охраны генерал-майора Свиты Его Величества» Петра Александровича Черевина. Эту должность П.А. Черевин занимал вплоть до своей смерти 19 февраля 1896 г., т. е. почти 15 лет.
Начальник царской охраны П.А. Черевин, пользовавшийся личным доверием Александра III и императрицы Марии Федоровны, быстро превратился в одну из ключевых фигур при новом Дворе. Непосредственное подчинение царю, право личного доклада, безусловная преданность, отсутствие определенных границ деятельности, требование ко всем ведомствам и учреждениям империи немедленно выполнять распоряжения и сообщать начальнику царской охраны всю информацию о возможных покушениях делали влияние П.А. Черевина весьма значительным.