В конце 1933 года на заводе «Красный путиловец» было организовано специальное конструкторское бюро — СКБ-2. Его возглавил О.М. Иванов, который в ОКМО был ведущим инженером при разработке Т-28. В мае 1937 года О.М. Иванова, арестованного, а затем расстрелянного, сменил на его посту 29-летний Ж.Я. Котин, протеже Ворошилова, женатый на воспитаннице наркома обороны. Вся дальнейшая работа по обеспечению серийного выпуска и усовершенствованию танка Т-28 проводилась под его руководством.
Танк Т-28 выпускался с 1933 по 1940 год, причем в течение всего этого периода в его конструкцию было внесено более 600 различных изменений и усовершенствований, которые позволили повысить прочность узлов и агрегатов и надежность работы машины в целом. В процессе производства общий башенный люк для посадки экипажа был заменен на два, причем люк наводчика оборудовали зенитной турелью П-40 для пулемета ДТ, напряжение электромотора для вращения главной башни повысили с 12 до 24 В, перестал устанавливаться радиоприбор для внутренней связи «Сафар»; были внесены многочисленные изменения в трансмиссию, двигатель, элементы ходовой части. С 1938 года на танк начали устанавливать 76,2-мм пушку Л-10 с длиной ствола в 26 калибров, обладавшую значительно большей мощностью, чем КТ-28. Всего за годы серийного производства заводские цеха покинули 503 танка Т-28.
Первые танки Т-28 поступили во 2-й отдельный танковый полк Ленинградского военного округа, затем — в 1, З и 4-й танковые полки. 12 декабря 1935 года эти полки были развернуты в отдельные тяжелые танковые бригады. Бригады дислоцировались: 1-я — Белорусский военный округ (г. Смоленск), 4-я — Киевский военный округ (г. Киев), 5-я — Харьковский военный округ (г. Харьков) и 6-я имени С.М. Кирова — Ленинградский военный округ (г. Слуцк). При этом 5-я тяжелая танковая бригада имела смешанный состав, наряду с Т-28 в ней были и тяжелые танки Т-35. Приказом наркома обороны от 21 мая 1936 года бригады выделили в Резерв Главного командования. Они предназначались для качественного усиления стрелковых и танковых соединений при прорыве укрепленных позиций противника. В соответствии с этим велось и обучение танкистов. Подготовка танкистов для Т-28 осуществлялась во 2-й запасной танковой бригаде Л ВО, в Орловском бронетанковом училище, а также на Ленинградских бронетанковых курсах усовершенствования комсостава.
Первые маневры с участием 15 танков Т-28 прошли в ЛВО в январе 1934 года. Самое большое количество Т-28, одновременно задействованных в маневрах, — это 52 машины 1-й тяжелой танковой бригады во время учений БВО 8-17 октября 1936 года. В докладе об этих учениях говорилось: «Танками пройдено 250 километров за три дня „боя“. Мы имеем хорошие отзывы из частей о тактико-технических характеристиках Т-28, однако в части качества машин Кировский завод сделал еще не все».
Еще одним важным мероприятием, в котором постоянно участвовали танки Т-28, были парады. Начиная с 1933 года и до начала Великой Отечественной войны они регулярно 1 мая и 7 ноября проходили по Красной площади в Москве, площади им. Урицкого (Дворцовой) в Ленинграде и по Крещатику в Киеве. Количество Т-28, участвовавших в парадах, обычно не превышало 20 машин.
В сентябре 1939 года 10-я (98 танков Т-28) и 21-я (105 танков Т-28) тяжелые танковые бригады участвовали в «освободительном походе» — боевых действиях против Польши в составе Украинского и Белорусского фронтов соответственно. Столкновений с войсками противника практически не было, бригады прошли по 350–400 км, при этом танки Т-28 показали себя с самой лучшей стороны.
Но в конце ноября их ждало более серьезное испытание — участие в советско-финской войне (с 30 ноября 1939 по 13 марта 1940 года). Боевые действия велись на довольно широком фронте — от побережья Финского залива до Мурманска. Но наиболее тяжелые и кровопролитные бои шли на Карельском перешейке.