Фет вспоминал: «Никакая школа жизни не может сравниться с военною службой, требующей одновременно строжайшей дисциплины, величайшей гибкости и твердости хорошего стального клинка в сношениях с равными и привычки к мгновенному достижению цели кратчайшим путем. Когда я сличаю свою нравственную распущенность и лень на школьной и университетской скамьях с принужденным самонаблюдением и выдержкой во время трудной адъютантской службы, то должен сказать, что кирасирский Военного ордена полк был для меня возбудительною школою».
Военная служба стала яркой страницей его жизни, расцветом поэтической деятельности и популярности. После перехода в гвардию и переезда в Петербург Фет познакомился с кружком журнала «Современника» (в декабре 1853 г. — январе 1854 г.) — Н. А. Некрасовым, И. И. Панаевым, А. В. Дружининым, И. А. Анненковым, И. А. Гончаровым, возобновил знакомство с И. С. Тургеневым и В. П. Боткиным. У Тургенева встретился с графом Л. Н. Толстым, только что начавшим тогда свою литературную деятельность. Позже они стали близкими приятелями и вели обширную переписку.
Постоянно публикуя в 1850-х годах свои оригинальные стихотворения в «Современнике» и «Отечественных записках», Фет в этих же журналах, а также в «Библиотеке для чтения» и в «Русском слове» поместил несколько довольно значительных переводных трудов, в том числе поэмы Гете «Герман и Доротея» («Современник», 1856, № 7). В 1856 году выходит собрание его стихотворений, встреченное сочувственными статьями (этот сборник подготовил и отредактировал Иван Тургенев). Николай Некрасов писал: «Смело можно сказать, что человек, понимающий поэзию и охотно открывающий душу свою ее ощущениям, ни в одном русском авторе, после Пушкина, не почерпнет столько поэтического наслаждения, сколько доставит ему г. Фет».
Но успех его лирической поэзии ограничивался довольно узким литературным кругом, в своем подавляющем большинстве просвещенная публика равнодушно относилась к его сочинениям; люди в эту пору решительных политических и экономических реформ интересовались более литературными произведениями, в которых чувствовался «дух времени», гражданские мотивы революционно-демократической мысли.
Взяв в 1856 году перед выходом в отставку из военной службы отпуск на 11 месяцев, Фет совершил поездку за границу, побывав в Карлсбаде, Париже и в итальянских городах. Навестил в Куртавнеле, в имении Виардо своего приятеля и собрата по перу Ивана Тургенева. В Париже 16 августа 1857 года женился на богатой купеческой невесте Марии Петровне Боткиной (1828–1894), сестре своего давнишнего друга и почитателя Василия Боткина.
По окончании отпуска 27 января 1858 года Фет вышел в отставку штабс-ротмистром гвардии и поселился в Москве. Его уход с военной службы был связан не только с женитьбой, которая принесла материальное благополучие, но и с невозможностью достижения поставленной им цели. По указу нового императора Александра II право на потомственное дворянство давал с 1856 года только чин полковника, а не майора, как было раньше. Дослужиться же до полковничьих погон Афанасий Афанасьевич не надеялся.
В начале 1860-х годов из-за политических разногласий Фет порвал отношения с журналом «Современник», после чего возник знаменитый антагонизм двух крупнейших поэтов своего времени «Некрасов — Фет».
Выпустив в свет в 1863 году в двух книгах свои «Стихотворения», расходившиеся довольно медленно, Афанасий Афанасьевич почти совсем перестал писать стихи. Тургенев с долей иронии говорил о Фете, что «он теперь сделался агрономом-хозяином до отчаянности, отпустил бороду до чресл, о литературе слышать не хочет и Музу прогнал взашею…»
Еще в 1860 году Фет решил серьезно заняться сельским хозяйством и с этою целью купил в Мценском уезде хутор Степановка с 200 десятинами земли. Здесь он прожил 17 лет, лишь зимою ненадолго наезжая в Москву, и создал прекрасное имение: отделал купленный неоконченным дом и расширил его пристройками, развел цветники, насадил аллеи, выкопал пруды и колодцы, проложил отличную подъездную дорогу, усердно вел хлебопашество, завел мельницу и конный завод. Свой опыт жизни и сельскохозяйственной деятельности в пореформенной деревне Афанасий Афанасьевич изложил в серии очерков, появлявшихся в журналах в 1862–1871 годах.
В Мценском уезде с с 1 ноября 1867 года по 1877 год Фет служил мировым судьею, разбирая мелкие гражданские и уголовные преступления. К этой общественной должности он относился со всей ответственностью и полной самоотдачей и писал о ней: «Свободный выбор уездными гласными наилучших людей в мировые судьи, которым представлялось судить публично по внутреннему убеждению, являлся для искателей должности судьи чем-то священным и возвышающим избираемого в его собственных глазах».
По императорскому указу 26 декабря 1873 года за Афанасием Афанасьевичем, наконец, была утверждена фамилия отца — Шеншин, со всеми связанными с нею правами потомственного дворянина. Но свои литературные произведения он и далее подписывал фамилией Фет.