Även om det är sant att Herodes den store inte byggde hela det andra templet, bidrog han avsevärt till dess konstruktion. Han renoverade och utökade de yttre väggarna på Tempelberget, vilket innefattade att bygga Västra muren, en av de mest ikoniska strukturerna i Jerusalem idag. Herodes byggde också andra delar av tempelkomplexet, inklusive den kungliga portiken och Antonia-fästningen. Det är dock viktigt att notera att själva konstruktionen av själva templet, inklusive de inre gårdarna och det allra heligaste, färdigställdes redan under kung Salomos regering, århundraden före Herodes tid.