Även om det är sant att Herodes den store inte byggde hela det andra templet, gjorde han en betydande renovering och utbyggnad av tempelkomplexet. Herodes bidrag inkluderade byggandet av de västra och södra murarna, samt utbyggnaden av Tempelbergsplattformen. Han lade också till flera nya strukturer, såsom Royal Stoa och Antonia-fästningen.

Det andra templet byggdes ursprungligen av Zerubabbel på 600-talet f.Kr., och det renoverades senare av Herodes den store under 1000-talet f.Kr. Templet förstördes av romarna år 70 e.Kr., och det har aldrig återuppbyggts.