Покинув балет, Филиппов вскоре поступил в эстрадный театр-студию. Его коронным номером там стал веселый танец под названием "Веселый Джим", с которым он выступал на многих эстрадных площадках Ленинграда. На одном из таких концертов его увидел известный театральный режиссер Н. П. Акимов и, придя за кулисы, предложил Филиппову перейти в труппу Театра комедии. Актер с радостью согласился.
На театральной сцене Филиппову в основном приходилось играть комедийные роли, но он не обижался. В амплуа комика он чувствовал себя как рыба в воде и был неслыханно счастлив, когда после каждой своей реплики слышал в зале зрительский смех. Естественно, что мимо такого заметного актера не могли пройти кинематографисты. С 1937 года Сергей Филиппов начинает сниматься в кино - его первой эпизодической ролью стал финн-шюцкоровец в фильме "Падение Кимас-озера". Затем роли пошли одна за другой: крестьянин-партизан в "Волочаевских днях" (1937), саботажник в "Члене правительства" (1939), погромщик в "Выборгской стороне" (1939), матрос-анархист в "Якове Свердлове" (1940), чтец в "Приключениях Корзинкиной" (1941) и др.
Однако настоящая популярность к Сергею Филиппову пришла в годы войны, когда он снялся в роли ефрейтора Шпукке в фильме Сергея Юткевича "Новые похождения Швейка" (1943). Затем этот успех был закреплен ролями в других картинах, среди которых наибольшей популярностью у зрителей пользовались: "Беспокойное хозяйство" (1946-й; роль немецкого разведчика Крауса), "Здравствуй, Москва" (1946-й; баянист Брыкин).
Стоит отметить, что в те годы настоящих комиков в советском кино практически не было, поэтому Филиппов почти безраздельно господствовал на комедийной сцене. Его слава в народе была огромной. Когда он шел по улице родного Ленинграда или любого другого города, за ним бежала детвора и, весело горланя: "Филиппов! Филиппов!", хватала за фалды его пиджака. Ему это не очень нравилось. Он отмахивался от ребятни, но делал это незлобиво. Хуже приходилось его почитателям более старшего возраста. Когда в ресторане, где он любил бывать, к нему за столик подсаживались подвыпившие посетители и, заискивающе глядя в глаза, приглашали выпить на брудершафт, актер впадал в неописуемую ярость, срывал скатерти и матюгал назойливых фанатов. Одна дама в кировском ресторане "Вудьявр" довела его до белого каления, когда попросила поставить автограф на своей арбузообразной декольтированной груди.
Все эти незапланированные встречи со зрителями приводили Филиппова в ярость. Когда его приглашали выступить в каком-нибудь концерте, он ссылался на занятость, головную боль и отказывался. Может быть, поэтому он тогда и стал сильно выпивать.
Видимо, именно на почве длительных запоев распался первый брак актера. В один из дней жена забрала с собою маленького сына и ушла от Филиппова. Но коротать время в одиночестве он был не приучен. Вскоре судьба свела его с Антониной Георгиевной Голубевой, которая стала его второй и последней женой. Она стоически терпела все закидоны своего супруга, так как была чуть старше его и мудрее. Только с нею он чувствовал себя спокойно и называл супругу нежным прозвищем Барабулька.
Настоящий расцвет таланта актера Сергея Филиппова пришелся на 50-е годы. Роли Казимира Алмазова в "Укротительнице тигров" (1955), лектора в "Карнавальной ночи" (1956) и Комаринского в "Девушке без адреса" (1958) вновь вознесли его на гребень зрительской популярности. Парадоксально, но актеры, занятые в главных ролях, не пользовались такой славой, как Филиппов, игравший сплошь в одних эпизодах. Он появлялся на экране всего несколько раз, но каждая его фраза, произнесенная с экрана, навечно уходила в народ. Вот лишь несколько таких примеров: "Казимир Алмазов - это имя, афиша, касса!", "...две, три, четыре, но лучше, конечно, пять "звездочек"!", "Мусик хочет водочки" и т. д.
Однако следует отметить, что возможности актера Филиппова были куда шире, чем только роли комедийного плана. Как писала М. Шувалова, "приходится сожалеть о том, что лишь немногие кинорежиссеры увидели иные грани дарования Филиппова, его более широкие актерские возможности. Оказалось, что Филиппов может играть и смешного, робкого влюбленного человека ("Медовый месяц", 1956-й) и безраздельно преданного революции, бесстрашного, сурового и в то же время доброго матроса Виленчука ("Шторм", 1957-й). Может быть, поэтому Сергею Николаевичу Филиппову особенно дорог неудачный фильм "Шторм", что в роли Виленчука он перешагнул рубежи привычного".
К началу 60-х годов за Филипповым числилось 47 ролей в кино и десяток ролей в театре. Из них львиная доля выпала на роли отрицательных персонажей.