В зависимости от занимаемой должности цвет петлиц (краповый или зеленый) и соответствующее количество ромбов, прямоугольников, квадратов и треугольников устанавливались по 13 категориям – от первой (два треугольника) до тринадцатой – четыре ромба. Генриху Ягоде, возглавлявшему НКВД, полагались «чистые» петлицы, что его очень огорчало.
В октябре 1935 г. в войсках НКВД были введены воинские звания для командного состава и специальные для политического, военно-технического, военно-медицинского и других административно-тыловых служб.
Начальствующему составу органов государственной безопасности предусматривалась отдельная система специальных званий, состоявшая из трех категорий: средний начсостав – младший лейтенант, сержант; старший – капитан, старший лейтенант, лейтенант; высший – комиссар 1, 2 и 3-го рангов, старший майор, майор. Ко всем званиям добавлялись слова: «государственной безопасности». Наркому внутренних дел СССР полагалось специальное звание – генеральный комиссар государственной безопасности, которое приравнивалось к маршалу Советского Союза. В истории НКВД его получили трое – Генрих Ягода, Николай Ежов и Лаврентий Берия.
В иерархии воинских и специальных званий звания госбезопасности стояли на два порядка выше. Так, сержант ГБ (сержантских званий в РККА еще не существовало) соответствовал званию армейского лейтенанта (младшего политрука); младший лейтенант ГБ – старшему лейтенанту (старшему политруку); лейтенант ГБ – капитану (старшему политруку); старший лейтенант ГБ – майору (батальонному комиссару); капитан ГБ – полковнику (полковому комиссару); майор ГБ – комбригу (бригадному комиссару); старший майор ГБ – комдиву (дивизионному комиссару); комиссары ГБ 3, 2 и 1-го рангов – соответственно комкору, командиру 2-го и командиру 1-го рангов (корпусному комиссару, армейскому комиссару 2-го ранга, армейскому комиссару 1-го ранга).
Для сотрудников ГУГБ была также установлена специальная форма одежды и знаки различия. Цвет петлиц остался прежним – краповый для сотрудников госбезопасности и внутренней охраны, светло-зеленый – для военнослужащих пограничной охраны.