Сын Павел, не ставший при жизни отца перечить его воле, женился на богатой купеческой дочке. У них родилось шесть дочерей, но крепкой старообрядческой семьи не получилось. Сразу же после смерти отца Павел Рябушинский затеял бракоразводный процесс и, обвинив жену в супружеской неверности, добился своего. В возрасте 50 лет он женился во второй раз, отбив 18-летнюю дочь крупного питерского хлеботорговца и старовера Александру Овсянникову у своего младшего брата, который так и остался холостяком. А у Павла от второй жены родилось 16 детей, но из них до совершеннолетнего возраста дожили восемь сыновей и пять дочерей.
Павел и Василий Рябушинские до поры до времени вели семейное дело в мире и согласии. Они продали свою лавку в Гостином дворе и превратились из чистых торговцев в производителей, хотя их компания носила название «Торговый дом П. и В. Рябушинских». Павел, будучи более компетентным в экономике и управлении, которые он познавал на практике в лавке дяди Артемия и на отцовских мануфактурах, отвечал за производство. А Василий, более склонный к торговле, – за сбыт товара.
В 1850—1860-х годах московские текстильные фирмы в массовом порядке начинают переходить от ручного ткачества к механическому производству с использованием паровых двигателей. Из-за того что на фабриках Рябушинских многое делалось по старинке и была слишком велика доля ручного труда, они проигрывали в соревновании с современными механическими фабриками. При этом переоборудование старых мануфактур стоило дороже, чем приобретение нового, уже оборудованного предприятия. И вскоре Павел решил ликвидировать отцовские мануфактуры, а на вырученные деньги купить крупную действующую бумагопрядильную фабрику в Тверской губернии. Эта идея не нашла поддержки у младшего брата, поэтому в 1869 году Павел был вынужден покупать мануфактуру на собственные деньги.
Уже на следующий год после покупки Рябушинским Вышневолоцкой мануфактуры ее продукция получила золотую медаль на очередной Всероссийской выставке. Спустя пять лет там же были построены еще и красильно-отбельная и ткацкая мануфактуры. К началу 1880-х продукция братьев Рябушинских была известна по всей России, а фирма получила эксклюзивное право наносить на свои товары изображение государственного герба.
В 1887 году вышневолоцкий фабричный комплекс – бумагопрядильная, ткацкая, красильная, отбельная и аппретурная фабрики – был реорганизован в «Товарищество мануфактур П.М. Рябушинского с сыновьями». Основной капитал товарищества состоял из 2 тысяч паев по 1 тысяче рублей каждый. Контрольный пакет Павел Михайлович оставил за собой (787 из тысячи паев, 200 – у жены). По одному паю в качестве поощрения получили ведущие служащие фирмы. Паи были именными (на них фиксировалось имя владельца), на бирже ими не торговали, продать их на сторону можно было только в случае отказа от их приобретения со стороны других совладельцев. Подобное товарищество на паях, сохраняющее семейный характер бизнеса, являлось российским аналогом акционерной компании. Такая практика ведения дела была широко распространена среди московских предпринимателей.
Фабричное дело было призванием Павла Рябушинского. Благодаря его стараниям вышневолоцкие фабрики к концу XIX века занимали существенную долю во всей российской хлопчатобумажной промышленности. В 1894 году на фабриках, оснащенных четырьмя паровыми машинами и десятью котлами, насчитывалось 33 тысячи прядильных веретен, 748 ткацких станков, годовая продукция составляла более чем на 2 миллиона рублей (в 1899 году она составила уже около 4 миллионов рублей). На предприятии были заняты 1410 мужчин и 890 женщин. Вокруг комбината вырос целый фабричный городок. В 1895 году был построен новый корпус бумагопрядильной фабрики, через два года – лесопильный завод, на котором начинает перерабатываться сплавляемая по реке Цне высокосортная древесина. «Лесные дачи» товарищества охватывали площадь более 30 тысяч десятин. В 1898 году на фабрике в ткацком и прядильном корпусах вводится электрическое освещение, которое является крайне необычным новшеством даже для столичных предприятий.
Со временем Рябушинские начинают заниматься и банковским делом, создавая одно из ведущих банковских учреждений в Москве. В то время у частных предприятий был высокий спрос на подобного рода услуги: четырех коммерческих банков и Купеческого общества взаимного кредита, которые действовали в Москве, не хватало на то, чтобы удовлетворить финансовые потребности торгового и промышленного московского центра. В этой связи у частных банкирских домов не было проблемы в поиске клиентов.
В декабре 1899 года Павел Михайлович Рябушинский скончался на 79 году жизни. Он был похоронен рядом с отцом на Рогожском кладбище. Согласно его завещанию дом в Малом Харитоньевском переулке отошел его жене, 8 тысяч рублей получили духовник и лакей Рябушинского. Основной же капитал в 20 миллионов рублей был поделен поровну между его восемью сыновьями – Павлом, Сергеем, Владимиром, Степаном, Николаем, Михаилом, Дмитрием и Федором.