Параллельно с налаживанием производства тяжелых танков в Челябинске приходилось решать и проблему их вооружения. Дело в том, что 76-мм орудия Ф-32, которые устанавливались на КВ, изготавливал Кировский завод в Ленинграде, значительно сокративший их выпуск в связи с эвакуацией. Проблему артиллерийского вооружения КВ удалось решить довольно быстро, поставив на производство 76-мм орудие ЗИС-5.
Работы по его созданию начались еще в июне 1940 года, когда конструкторское бюро завода № 92 под руководством В. Грабина получило задание на проектирование пушки «с баллистикой 76-мм зенитного орудия (начальная скорость снаряда 813 м/с) для нового тяжелого танка». Заводские испытания первого образца, получившего индекс Ф-27, начались в декабре 1940 года. Однако представители автобронетанкового управления не приняли пушку, мотивируя свое решение тем, что длинный ствол орудия, значительно выступающий за габарит танка, ухудшит маневренность КВ на пересеченной местности. Поэтому в феврале 1941 года конструкция Ф-27 (получившая в начале 1941 года индекс ЗИС-5) была переработана под баллистику 76,2-мм полевой пушки Ф-22. Одновременно с этим, по распоряжению заместителя наркома обороны Г. Кулика на заводе № 92 в феврале — марте успешно прошла испытание 76,2-мм орудие Ф-34, установленное на танке КВ. Но из-за того, что весной 1941 года для вооружения КВ ожидалась пушка ЗИС-5 с увеличенной баллистикой, вооружение тяжелого танка системой Ф-34 признали неперспективным.
Первый образец ЗИС-5 был изготовлен в августе и до конца сентября проходил испытания. По их окончании в соответствии с требованиями автобронетанкового управления и производственными условиями, конструкция ЗИС-5 была переработана. В окончательном виде ЗИС-5 имела баллистику Ф-34 и отличалась от последней конструкцией элементов люльки и бронемаской. 30 сентября 1941 года орудие ЗИС-5 было принято на вооружение, а с 1 октября началось его валовое производство на заводах № 92 и № 9.
Для увеличения производства КВ на ЧКЗ с октября 1941 года тракторное производство на заводе было полностью прекращено и все цеха переключились на производство танков. Помимо этого, создавались новые цеха и участки, возводились новые производственные корпуса, многие помещения расширялись за счет всевозможных пристроек и надстроек. Скоростными методами было закончено строительство бывшего газогенераторного цеха и построен большой механо-сборочный корпус для танкового производства. Введение в эксплуатацию этих корпусов дало возможность разместить на заводских площадях эвакуированный из Харькова завод № 75 по производству дизельных двигателей, который был включен в состав ЧКЗ. Кроме того, на заводских площадях разместились эвакуированные в Челябинск станкостроительный завод им. Молотова из Харькова, заводы «Красный Пролетарий» и шлифовальных станков из Москвы. Постепенно на месте тракторосборочных поточных линий возникли танкосборочные, а бывшие тракторостроители переквалифицировались в танкостроителей.
В помощь танковому производству ЧКЗ по механической обработке деталей танка были также привлечены некоторые заводы и мастерские, расположенные в городе Челябинске и Челябинской области.
В результате реорганизации производства к январю 1942 года изготовление танков на ЧКЗ было организовано следующим образом: цеха МХ-1 и МХ-2 выпускали детали и узлы ходовой части КВ и шестерни для коробки перемены передач, цех МХ-2 (до войны в нем планировалось развернуть танковое производство) — детали главного фрикциона, бортовые редукторы, вентиляторы и коробки перемены передач, цех МХ-4 — поворотные механизмы башен, приводы управления, шаровые установки пулеметов и т. п., а сборочный цех СБ-2 являлся цехом окончательной сборки танков.