Первичную проверку и фильтрацию большая часть военнопленных проходила на дивизионных и армейских приемно-пересыльных пунктах, которые располагались в полосе действий каждой армии на глубине 30–40 километров. В последующем основная работа с ними проводилась во фронтовых лагерях, находившихся на расстоянии 150–200 километров от передовой. В зависимости от обстановки их количество и вместимость менялись. Так, в период наступательных операций в январе — марте 1945 г. на 2-м Украинском фронте было развернуто пять приемно-пересыльных лагерей, а на 3-м и 4-м фронтах — по три.
В этих лагерях органами Смерш осуществлялась глубокая и всесторонняя проверка военнопленных. В полном объеме использовались имеющиеся оперативно-технические возможности, проводились необходимые агентурные и следственные мероприятия, направленные на выявление сотрудников спецслужб противника, изобличение военных преступников, подготовку условий для внедрения завербованной агентуры в подразделения абвера и «Цеппелина», а также добывалась разведывательная информация.
Основная тяжесть фильтрационной работы легла на плечи сотрудников 2-го отдела ГУКР НКО Смерш СССР, выступавших координаторами деятельности управлений фронтов в работе среди военнопленных, а также осуществлявших их информационное обеспечение и принимавших активное участие в проверке перспективных дел.
В июне 1943 г. отдел возглавил и до конца войны руководил его работой полковник С. Карташов. Феноменальная память Сергея Николаевича и невероятная работоспособность поражали даже немало повидавших на своем веку контрразведчиков. Он наизусть знал материалы многих дел, помнил сотни имен, фамилий и кличек разоблаченных сотрудников и агентов противника.
Ежедневно им готовились и направлялись руководству Смерш, Генерального штаба и в другие высшие инстанции десятки докладных и оперативных сводок, а в управления фронтов уходили распоряжения и ориентировки. В период наступления советских войск он неделями не покидал своего кабинета — анализировал поступающую информацию, вырабатывал рекомендации и совместно с контрразведчиками на местах обеспечивал их реализацию.
В работе среди военнопленных главное внимание Карташова, его подчиненных, оперативников и следователей было сосредоточено на решении контрразведывательных задач. В этой уже не воюющей многомиллионной армии бывших военнослужащих гитлеровской Германии и милитаристской Японии таились тысячи сотрудников спецслужб, которые все еще оставались опасными. Завербованная и подготовленная ими агентура продолжала стрелять в спину бойцам и командирам Красной армии, мешала восстановлению мирной жизни на освобожденных территориях.
То была тяжелая и изнурительная борьба с сильным и коварным противником, для которого не существовало секретов в разведке и контрразведке. Бывшие сотрудники абвера и «Цеппелина», полиции безопасности, СД и ГФП — тайная полевая полиция (нем. Geheime Feldpolizei, GFP), имевшие за плечами многолетний опыт нелегальной работы и десятки успешно проведенных операций, боролись до конца. Им было что терять. В случае разоблачения их неминуемо ждал суд военного трибунала, а тот не скупился на смертные приговоры.
Основным оружием военных контрразведчиков в борьбе с ними стали профессионализм и агентура. С течением времени Карташову и его подчиненным в короткие сроки удалось создать эффективную систему поиска среди военнопленных сотрудников вражеских спецслужб и их агентуры. В ее основе лежала хорошо поставленная работа с негласным аппаратом. С его помощью осуществлялась проверка подозреваемых, проводились наиболее острые и сложные оперативные мероприятия. Полученные через агентуру материалы в последующем использовались для легализации и документального закрепления фактов шпионской, диверсионной и террористической деятельности разрабатываемых лиц. В спецсообщениях и докладных управлений Смерш фронтов работа с агентурой и результаты ее использования среди военнопленных стояли на одной из первых позиций.
В частности, по результатам проведенной фильтрационной работы в июле 1944 г. начальник Управления Смерш фронта генерал А. Вадис докладывал в Главк: