Немало думал и примерял он, чтобы размещение картин получилось удачно. Он писал 4 октября 1882 года Репину: «галерея наша с 1 окт. до 1 ноября закрыта по случаю работ по устройству Верещагинских коллекций и некоторых Передвиженских прочих картин». Репин в письме от 5 октября выразил свои предположения относительно этого размещения: «Неужели Верещагина Вы повесите внизу? Следует непременно наверху». 22 октября Павел Михайлович сообщает ему: «Коллекции Верещагина помещены все внизу и освещены превосходно; может быть большие картины наверху и выиграли бы еще (некоторые), но за то маленькие никогда еще, нигде так хорошо не освещались, а раздроблять я их не хотел и, по крайней мере, я сам остаюсь вполне доволен их размещением. Установка этих коллекций продолжалась ровно 20 дней. Теперь реставрируется нижнее отделение старой галереи, потом уже начну кое-что переносить из старой верхней в новую; хлопот предстоит еще очень много».
С этого Павел Михайлович и начал. Наверх в первый новый зал (зал 3) перешли картины Прянишникова, Маковского, Чистякова, Лагорио, «Казнь стрельцов» Сурикова и др. Во второй (зал 4) – Шишкин, Куинджи, Максимов, Бронников, Мясоедов, Айвазовский, «Слово о полку Игореве» Васнецова и др. В третий зал (зал 5) – Крамской и Васильев, которые остались там и при последней развеске, сделанной Павлом Михайловичем перед смертью.
В старом большом зале осталась на прежнем месте только «Военная дорога» Филиппова над лестницей. По длинной левой стене, начиная от лестницы, со старейших художников, заняли место портреты, картины, пейзажи вперемешку. Эта стена кончалась у входа в жилые комнаты произведениями Брюллова и Бруни. На узкой стене висела в центре «Богоматерь» А. Максимова, а вокруг картины Худякова, Горавского, Ломтева, Капкова, Макарова, Захарова, Зарянко. На другой длинной стене – И. И. Соколов, Трутовский, Якоби, Пукирев, Флавицкий, Перов и другие.
В старом помещении внизу были выставлены бывшие под спудом «альбомные вещи», как в старину называли рисунки и акварели. Кстати скажу, что одновременно с этой пристройкой галереи производилась также пристройка жилого помещения. Фасад дома, выходящий в сад на запад, продолжили. 31 октября Марья Ивановна известила путешествующую Веру Николаевну, что в пристройку переехали дети – Люба и Миша – с гувернанткой Ольгой Николаевной, а также заселен низ, и прибавила, что все очень довольны.
Немного времени прошло, и в новой пристройке галереи не оставалось пустых мест. 27 января 1883 года Павел Михайлович, прося Репина считать картину «Иоанн Грозный и сын его Иоанн Иоаннович» за ним, писал: «Придется нынешний год начать пристройку к галерее. Почти уже нет места. Я предполагаю Ваши работы поместить внизу с боковым светом». Репин ответил: «Еще пристройка! Да, Вы шутить не любите и не способны почить на тех почтенных лаврах, которые справедливо присуждены Вам всем образованным миром. Вы хотите создать колосса».
Картина «Иван Грозный» была снята с выставки, и с Павла Михайловича, по распоряжению царя, московский полицмейстер взял подписку, что он не повесит ее в галерее, в помещениях, доступных публике. Сообщая об этом Репину, он писал 6 апреля: «До переезда на дачу она будет спрятана; по отъезде нашем на дачу поставлю на мольберт в одной из жилых комнат; когда будет сделана пристройка к галерее, полагаю в начале зимы, выставлю ее в особой комнате, запертой для публики. Картина на выставке освещалась очень плохо, а в галерее с верхним светом освещается превосходно, так что она должна освещаться именно таким способом».
Но особой комнаты для «Грозного» не потребовалось, потому что 11 июля того же года Павел Михайлович получил письменное разрешение выставить картину в галерее, о чем поспешил в тот же день уведомить Репина. Картина была выставлена в новой пристройке.
Новых залов было в верхнем этаже три, не считая крошечной проходной комнатки (залы 6, 7 и 8). Внизу залы были меньше и их было пять (залы 15, 16, 17, 18 и 19). Повторены были продолговатые и квадратные залы вдоль Малого Толмачевского переулка. Здание заворачивало по краю владения Третьяковых, для чего пришлось снести деревянный флигелек.
В этой части здания был узкий продолговатый зал (зал 8), разделенный перегородками. В каждом из отделений висело по картине Репина, которые иначе и по содержанию и по колориту не могли бы висеть рядом. Это были: «Крестный ход», «Не ждали» и «Иван Грозный». На остальных стенах и на перегородках висели другие картины и портреты: «Царевна Софья», «Вечерницы», «Протодьякон», «Отдых» – поэтичный портрет жены художника, портреты: Писемского, Мусоргского, Пирогова, Гаршина, Фета, Забелина, Аксакова, А. Г. Рубинштейна, Соловьева. Также на стенах нашли место пейзажи нескольких художников.