Первоначально в РОВСе было четыре отдела. Первый — Франция и Бельгия; второй — Германия, Австрия, Венгрия, Латвия, Эстония, Литва; третий — Болгария и Турция; четвёртый — Королевство сербов, хорватов и словенцев (с 1929 года — Югославия), Греция и Румыния. Потом отделы РОВСа появятся в Северной и Южной Америке, в Египте, Австралии и других странах с русской диаспорой.
Следует заметить, что великий князь Николай Николаевич долго колебался и отказывался, прежде чем стать главой РОВСа. Современники говорили о его осторожности ещё в годы мировой войны. Так, великий князь до крайности оберегал свой покой и здоровье, на автомобиле он ездил со скоростью не более 25 вёрст в час, опасаясь попасть в аварию, и ни разу не выехал на фронт дальше ставки главнокомандующего, боясь шальной пули.
На решение Николая Николаевича повлияла не только настойчивость Врангеля, но и претензии Кирилла Владимировича на императорскую корону.
Кирилл дважды отправлял Николаю Николаевичу письма с предложением «сотрудничества». На первое письмо вообще ответа не последовало, а на второе, которое Николаю Николаевичу лично передала княгиня Елена Владимировна, был получен ответ через брата Николая Николаевича великого князя Петра Николаевича, что Николай Николаевич не сочувствует выступлению Кирилла Владимировича, и поэтому сотрудничество невозможно.
В ответ на провозглашение Кириллом самого себя императором великий князь Николай Николаевич сделал публичное заявление:
На собраниях и банкетах своих сторонников великий князь высказывался куда энергичнее: «Кирюха есть всего-навсего предводитель банды пьяниц и дураков». Это самое приличное высказывание, иные же просто непечатны.