Мономах не допускал какой бы то ни было междоусобной борьбы. Удельные князья не смели заводить усобиц, они повиновались Мономаху, а в случае строптивости чувствовали его сильную руку. Владимир прощал первые попытки нарушить установленный порядок. Но если строптивый князь нарушал порядок во второй раз, то нес за это серьезное наказание. Так, в 1116 г. полоцкий князь Глеб, сын Всеслава, разорил Смоленскую и Слуцкую земли. «И хотя, – пишет В. Н. Татищев, – Владимир посылал к нему, чтобы тот унялся, Глеб отвечал, что он захватит области Владимировы». Владимир пошел войной на Глеба, но Глеб поклонился Владимиру, просил мира, и Владимир оставил его княжить в Минске. Однако несколько лет спустя Глеб повторил свой проступок. Тогда Владимир совместно с Давидом Черниговским и Ольговичами взял Минск и несколько других городов в княжестве Глеба. Самого Глеба привезли в Киев, где он и умер. Точно так же в 1118 г. Владимир, собрав князей, пошел на волынского князя Ярослава Святославича. Когда тот покорился ему и «ударил челом», он оставил его во Владимире, сказав: «Всегда иди, когда я позову тебя». Но потом Ярослав напал на Ростиславичей и навел на них поляков; кроме того, он дурно обращался со своею женою. Владимир сердился на него и за это. Он выгнал Ярослава, отдав Владимир-Волынский своему сыну Андрею. Ярослав покушался возвратить город Владимир с помощью поляков, венгров и чехов. Великий князь не имел времени собрать большую дружину и послал в помощь Андрею своего старшего сына Мстислава с небольшой дружиной. В это время Ярослав осадил город Владимир, где стойко оборонялся юный Андрей. Ярослав, уверенный в своей победе, грозил Андрею и жителям города страшной местью, если они продолжат сопротивление. Он поехал на коне вдоль стены, определяя слабые места для штурма. В это время два человека тайно вышли из крепости и спрятались у дороги, по которой двигался Ярослав. Когда он поравнялся со спрятавшимися воинами, те пронзили его копьями. Ярослав умер в ту же ночь, а его союзники поспешили заключить мир с великим князем. Венгерский летописец повествует, что король Стефан, огорченный смертью Ярослава, клялся взять крепость или умереть. Но его воеводы не захотели повиноваться, сняли свои шатры и принудили короля вернуться в Венгрию. Летописец о поражении Ярослава пишет: «Так умер Ярослав, одинок в такой силе; погиб за великую гордость, потому что не имел надежды на Бога, а надеялся на множество войска; смотри теперь, что взяла гордость? Разумейте, дружина и братья, по ком Бог; по гордом или по смиренном? Владимир, собирая войско в Киеве, плакался перед Богом о насилии и гордости Ярославовой; и была великая помощь Божья [добавим: и народное расположение] благоверному князю Владимиру за честное его житие и за смирение; а тот молодой гордился против дяди своего и потом опять против тестя своего Мстислава». Строго поступил Владимир и с новгородцами, которые, пользуясь малолетством сына Владимира Всеволода, решили добиться для себя больших привилегий и стали избирать посадников из своей среды. Владимир Мономах вызвал новгородских бояр в Киев. Здесь он велел боярам присягнуть в верности киевскому князю. Кто согласился это сделать, был отпущен домой, тех же, кто отказался, оставил в Киеве, а некоторых посадил в темницу. На Новгородское посадничество был отправлен киевский боярин Борис. Но новгородцы все-таки не унимались. Тогда Владимир поехал в Ростов и Суздаль и велел знатным новгородцам прибыть в Суздаль. Там Владимир заставил прибывших подписать свою грамоту, в которой говорилось, что «новгородцам впредь, кроме его наследников, к себе на княжение никого не принимать и дань по уставу Ярослава платить старшему наследнику его, хотя бы он сам и не был в Новгороде». Новгородцы подписали и утвердили крестным знамением эту грамоту.
В 1115 г. умер Олег, а в 1123 г. и Давид Святославичи. На время ослаб клан противников Мономаха. Но уже тянулись к власти дети Олега – Ольговичи, которые были не прочь восстановить старину.
Тишина, установившаяся на границах с приходом в Киев Владимира Мономаха, оставалась обманчивой. Соседние государства – Польша, Венгрия, Чехия, – не говоря уже о половцах, не теряли надежды поживиться за счет русских земель. И это следовало учитывать Владимиру Мономаху в своей внешней политике.
С победой Владимира над Ярославом Святополковичем на некоторое время установились мирные отношения с Польшей. Теперь появилась возможность обратить свое внимание и на другие страны, и прежде всего на Грецию.