Перестройка началась примерно через два года после первоначального объявления, но, начавшись, стала продвигаться весьма быстро. Хотя и с большим трудом, сравнивая описание Иосифа со значительно расходящимся описанием в древнееврейских трактатах, мы можем получить некоторое представление о том, как выглядел Иродов храм.
Весь комплекс сооружений находился внутри Двора иноверцев, ныне представленного большой площадкой у мечети Аль-Шериф. Это место иудеи называли «храмовой горой». Окружавшая святыню просторная огороженная территория такого рода в Восточном Средиземноморье была вполне обычным явлением; сегодня ее лучше всего можно оценить, побывав в Пальмире и Герате (Иераш). В Иерусалиме двор, занимавший около 35 акров, был намного (почти в два раза) просторнее двора при старом храме. Если по религиозным соображениям Ирод придерживался предполагаемых размеров Соломонова храма, то ничто не препятствовало ему расширить и украсить этот скорее мирской внешний двор: и он был особенно расположен к этому, поскольку сам мог в него входить, тогда как, не будучи священнослужителем, не мог ступить в святилище.
Посему прежде квадратной формы Двор иноверцев расширили до огромного вытянутого прямоугольника, вымостили и со всех четырех сторон окружили стеной. С северной стороны, где расширение стало возможным благодаря заполнению глубокой впадины между территорией храма и замком Антония, в северо-восточном углу добавили вторую башню, которая частично уравновешивала расположенную в северо-западном углу башню Антония. "Учитель, — воскликнул один из учеников Иисуса, — смотри, какие здесь камни и строения! " И хотя Иисус знал, что сам храм не будет существовать вечно, части западной стены уцелели до наших дней, образуя девять нижних рядов кладки Стены Плача, к которой евреи приходят возносить свои молитвы. На той же стороне сохранились большие участки виадуков, проложенных над раскинувшейся тогда внизу, а теперь большей частью засыпанной долиной Турпосон.
Иисуса, согласно Евангелию от Матфея, дьявол подстрекал совершить чудо: броситься вниз с вершины или с парапета храма (Мф. 4, 5). Это была верхняя часть стены в юго-восточном углу, где она возвышалась над раскинувшейся в 450 футах внизу долиной Кидрона. Под местом, где была вершина, можно видеть подвалы, известные как Соломоновы конюшни. Вся южная сторона внешнего двора покоилась на встроенном в гору массивном фундаменте. Самый большой из каменных блоков, высеченных с величайшей точностью, длиной более 16 футов, легко различим с противоположной стороны долины.
В южную часть внешнего двора попадали, спускаясь вниз по крытым сводчатым галереям через двое Ворот Хулда, иначе Тройные и Двойные. Все, что осталось от Тройных ворот, так это часть дверной коробки западного пролета. А остатки Двойных ворот (ниже мечети Аль-Акса) довольно цельные и представляют единственную существенно сохранившуюся часть Иродова храма. Позади двух одинаковых пролетов, в которые первоначально были встроены двери, находится квадратный передний дворик с мощной монолитной колонной в центре. Капитель колонны имеет форму корзины, из которой выглядывают узоры листьев. Среди других особенностей можно отметить мелкие пилястры, перемычки из цельного камня и украшенные лепниной овальные своды потолка. Эти ворота, к каждым из которых по бокам примыкал ряд небольших помещений, вдавались в глубь двора, как башни.
Во Двор иноверцев входили и через другие ворота, общее число которых по-разному считалось от семи до тринадцати. В отличие от расположенных по оси пропилеи, ведущих в передние дворы языческих храмов, они располагались несимметрично, но были довольно единообразны по конструкции и в общем походили на Двойные ворота. В числе четырех проходов в западной стене были Ворота цепи, или Копониус, от которых сохранилась брусчатка, — конечный пункт одного из виадуков, протянутых через долину. Дальше за ними шли ворота, ведущие в Верхний город или северо-западную часть Иерусалима, но и от них мало что сохранилось (остатки перемычки). В восточной стене находились Шушанские ворота, со времен раннего христианства отождествлявшиеся с Золотыми воротами, через которые в Пальмное (Вербное) воскресенье Иисус въехал в Иерусалим.