Родился в Киеве, в семье известного педагога Е. М. Крыжановского – преподавателя Киевской духовной академии, затем директора 1-й русской гимназии в Варшаве, члена учебного комитета при Святейшем Синоде, действительного статского советника. В 1880 г. поступил в Московский университет, на математический факультет, но вскоре перешел на юридический факультет, а в 1881 г. перевелся в Петербургский университет. В студенческие годы участвовал в демократических кружках народнической направленности, поддерживал дружеские отношения с представителями оппозиционной интеллигенции, в том числе с будущими деятелями кадетской партии (С. Ф. Ольденбургом, В. И. Вернадским, И. М. Гревсом, Д. И. Шаховским и др.). Подвергался наказаниям за участие в студенческих демонстрациях. И позднее, уже после окончания университета, привлекался в 1887 г. по делу об участии в нелегальном издании В. В. Водовозовым книги немецкого профессора-либерала А. Туна «История революционного движения в России».
В 1885 г. Крыжановский, окончив юридический факультет Санкт-Петербургского университета со степенью кандидата, начал службу по ведомству Министерства юстиции. Назначался кандидатом на судебные должности при Петербургском окружном суде и служил на различных должностях следователем в Санкт-Петербурге. С 1891 г. по 1896 г. последовательно занимал должности (в среднем по два года) товарища прокурора Великолукского, Рижского и Петербургского окружных судов. В 1896 г. Крыжановский перешел на службу в Министерство внутренних дел, возглавив земское отделение хозяйственного департамента министерства – в этом качестве курировал деятельность органов местного самоуправления, занимался вопросами развития местного хозяйства. С 1899 г. чиновник для особых поручений при министре внутренних дел с правами вице-директора хозяйственного департамента, а в 1901 г. получил пост вице-директора департамента. В 1903 г. Крыжановский назначен помощником начальника Главного управления по делам местного хозяйства Министерства внутренних дел – новой структуры, проект которой был им разработан по поручению В. К. Плеве (в этой должности, с перерывом на один месяц в 1905 г., он оставался до апреля 1906 г.). Крыжановский предлагал также создать при Главном управлении совет по делам местного хозяйства с участием представителей земств и городского самоуправления, но тогда этот проект не был осуществлен.