Старец, предвидя в своем келейнике и ученике достойного преемника, с любовью приготовлял его к высочайшему служению. Отец Амвросий доверял ему входить в общение с посетителями. Отец Иосиф внимательно выслушивал их нужды, передавал старцу и возвращался с ответом, ничего не добавляя от себя. Нередко старец Амвросий приходящих к нему посетителей посылал с вопросами к отцу Иосифу, и многие убедились, что его ответы всегда были одинаковы с мнением старца. Со временем старец Амвросий стал благословлять некоторых посетителей ходить со своими духовными нуждами к своему келейнику, отцу Иосифу, готовя тем самым достойного продолжателя высоких традиций оптинских старцев.
В 1888 году иеромонах Иосиф тяжело заболел тифом. Его отвезли в больницу. Врачи предсказали скорый печальный исход. 14 февраля, по благословению старца Амвросия, отца Иосифа постригли в схиму. Он был так плох, что на следующий день над ним прочли отходную. После этого отец Иосиф попросил ухаживавшего за ним брата пойти к старцу Амвросию и передать ему, что он просит отпустить его с миром. Но старец велел посланнику передать отцу Иосифу: «Свят, свят, свят Господь Саваоф». Как только посланный отцом Иосифом брат вернулся в больницу и повторил эти величественные слова над постелью больного, тот сразу же попросил чая и с этой минуты быстро пошел на поправку, прожив после болезни еще двадцать пять лет. Так благодаря молитвам старца Амвросия смертельная болезнь отступила.
Во время этой болезни отца Иосифа опять посетила Матерь Божья. Она встала у его изголовья и сказала: «Потерпи, любимче мой, немного осталось». Эти слова ясно слышал послушник, ухаживавший за отцом Иосифом. Думая, что за ширмой, где лежал больной, кто-то есть, он заглянул туда и очень удивился, увидев, что кроме больного, там никого нет. Послушник потом рассказывал старцу Амвросию: «А батюшка Иосиф лежал как пласт с закрытыми глазами. Меня такой объял страх, что волосы дыбом встали». Позже старец Амвросий с глубоким уважением говорил некоторым своим духовным детям, что отец Иосиф во время болезни сподобился видеть Царицу Небесную. Кстати, таким же ласковым именем «любимче мой» Матерь Божья называла при своем явлении великого старца Серафима Саровского.
«К отцу Иосифу все мои немощи перешли», – говорил старец Амвросий. Но, несмотря на болезненность и слабость, отец Иосиф никогда не отдыхал днем, в свободные минуты читая книги и отвечая на многочисленные письма духовных детей.
После отъезда старца Амвросия в Шамординский монастырь монахи стали ходить на исповедь к отцу Иосифу, позже старец Амвросий стал присылать к нему и шамординских монахинь.
С кончиной старца Амвросия на отца Иосифа легли многие обязанности. В тяжелые дни после потери великого старца Амвросия проявилась сила духа старца Иосифа. Пребывая в скорби о своем наставнике, он сумел найти слова утешения и оказать поддержку осиротевшим духовным детям старца Амвросия. Многие монахи обители, шамординские сестры и миряне стали духовными детьми старца Иосифа, почувствовав, что дух старца Амвросия живет в новом старце. Рассказывали, как одна помещица особенно печалилась и скорбела о смерти старца Амвросия, ее духовника. И однажды, когда она сидела дома, погрузившись в грустные мысли, вдруг ясно услышала голос старца Амвросия: «Держись отца Иосифа – это будет великий светильник». Знакомый голос привел помещицу в чувства, положил конец ее сомнениям и колебаниям, и она с радостью в сердце вручила себя новому духовнику – старцу Иосифу.
В 1893 году старец Иосиф по единодушному выбору и желанию всей братии стал духовником Оптиной пустыни. В 1894 году он был назначен начальником скита.
До конца жизни старец Иосиф строго соблюдал все посты, очень мало спал, ходил в поношенной бедной одежде. В обращении он был всегда деликатен и уступчив. Его неизменное радушие привлекало к нему окружающих, будь то миряне или монахи. Самых непослушных он умел смирять кротостью. Если он учил, то не властью начальника, а любовью отца. Монахи про него говорили: «Наш батюшка чего не сделает приказанием, то доделает своим смирением. Так скажет и взглянет, что и не хотелось бы смириться, да смиришься».
Особо ценили его за умение несколькими словами выразить самое главное, утешить, наставить. Не случайно старец Амвросий при жизни говорил о нем: «Я поил вас вином, разбавленным водою, а отец Иосиф будет поить вас одним чистым вином». Старец не ошибался. Язык старца Иосифа был лаконичен, прост, доходчив и убедителен и в устной речи, и в письмах.
Старец Иосиф обладал многими духовными дарами, в том числе прозорливостью и даром исцеления. Веруя в силу его молитвы, к старцу в скит приводили многих немощных, и многим он помог исцелиться.