О жизни Абакумова до того, как он занял руководящие посты в карательном ведомстве, известно немного. В конце 1923 года Виктор Семенович уволился из ЧОНа и поступил рабочим на один из московских заводов. В 1925 году устроился упаковщиком в Московский союз промысловой кооперации. В 1927–1928 годах служил стрелком 1-го отряда военно-промышленной охраны ВСНХ СССР, а затем вновь вернулся к профессии упаковщика, теперь уже на складах Центросоюза. В 1930 году Абакумов вступил в ВКП(б), что благотворно сказалось на его карьере. В том же году он был назначен заместителем начальника административного отдела торгово-посылочной конторы Наркомторга РСФСР. В сентябре 1930 года стал секретарем организации ВЛКСМ той же конторы. В 1931 году Абакумова перевели на штамповочный завод «Пресс» освобожденным секретарем комсомольской организации. Там он проработал всего несколько месяцев, а в октябре получил назначение заведующим военным отделом Замоскворецкого райкома комсомола.
В 1932 году по партийной мобилизации мелкий комсомольский функционер был направлен в ОГПУ. Здесь Виктор Семенович обрел дело всей жизни и нашел применение своим талантам. Начинал он с практиканта экономического отдела полномочного представительства ОГПУ по Московской области, а в 1933 году дорос до оперуполномоченного 3-го отдела экономического управления ОГПУ. Однако в следующем году разразился скандал. Выяснилось, что Абакумов использовал конспиративную квартиру для свиданий с любовницами. Вряд ли в этом прегрешении он был одинок среди офицеров НКВД. Но, как видно, один из начальников дал делу ход, и проштрафившийся оперуполномоченный был сослан в ГУЛАГ — не заключенным, а простым уполномоченным 3-го отделения отдела охраны. Вскоре Абакумова восстановили в должности оперуполномоченного, а в 1937 году он перешел в 4-й (секретно-политический) отдел Главного управления государственной безопасности НКВД СССР, непосредственно занимавшийся организацией политических репрессий. Похоже, в разгар «ежовщины» Абакумов проявил себя с самой лучшей стороны, раз в сентябре 1938-го его повысили до помощника начальника отделения, а в ноябре — до начальника отделения.
С приходом Берии Абакумов 5 декабря 1938 года был назначен исполняющим обязанности начальника Управления НКВД по Ростовской области. 27 апреля 1939 года его в этой должности утвердили как доказавшего преданность новому руководству.
Виктор Семенович чем-то приглянулся Лаврентию Павловичу. 25 февраля 1941 года Абакумова назначили заместителем наркома внутренних дел, курировавшим особые отделы в армии, на флоте, а также в пограничных и внутренних войсках. Вскоре после начала Великой Отечественной войны, 19 июля 1941 года, он также возглавил Управление особых отделов НКВД.
4 февраля 1943 года Абакумову присвоили звание комиссара госбезопасности 2-го ранга, а 19 апреля особые отделы были преобразованы в Главное управление контрразведки СМЕРШ («Смерть шпионам») и переведены в состав Наркомата обороны. Абакумов стал заместителем наркома обороны Сталина.
О деятельности военной контрразведки в годы войны мы судим чаще всего по талантливому роману Владимира Богомолова «Момент истины» («В августе сорок четвертого»). Там СМЕРШ предстает организацией высокоэффективной, где работали классные профессионалы вроде капитана Алехина и старшего лейтенанта Таманцева. А глава военной контрразведки генерал-полковник Виктор Семенович Абакумов у Богомолова — человек, безусловно, симпатичный: «Дюжий, светловолосый, с открытым, чуть простоватым, очень русским лицом, он стоял прямо перед Сталиным и смело смотрел ему в глаза».
Справедливости ради надо сказать, что есть и другие произведения, где смершевцы изображены людьми малосимпатичными. Так, в замечательной, но сегодня, к сожалению, забытой широкой публикой повести Василя Быкова «Мертвым не больно» самый отталкивающий персонаж — это капитан СМЕРШа Сахно, готовый беспощадно расстреливать командиров за невзятые высотки и в то же время, оказавшись в плену, охотно подставляющий (в буквальном смысле) плечо немцам, лишь бы уцелеть.
Насколько эффективной в действительности была работа легендарного СМЕРШа? И кто из литературных героев более типичный смершевец — капитан Алехин или капитан Сахно? Об этом дает представление доклад Сталину начальника ГлавПУРа А. С. Щербакова, проверявшего органы контрразведки сражавшейся в Карелии 7-й Отдельной армии. Командующий этой армией генерал-лейтенант Алексей Николаевич Крутиков пожаловался Верховному Главнокомандующему на своих особистов, один за другим лепивших явно фальшивые шпионские дела. В результате по приказу Сталина от 31 мая 1943 года несколько офицеров СМЕРШа во главе с заместителем начальника контрразведки 7-й Отдельной армии подполковником Керзоном были осуждены к пяти годам лагерей или к направлению в штрафные батальоны.
Как докладывал Щербаков «по материалам следствия, проведенного Особым отделом армии, дело рисовалось следующим образом: