In der babylonischen Gefangenschaft erinnerten sich die Israeliten, die nun »Juden« genannt wurden, wieder an den Glauben ihrer Väter und an die Aussagen vieler Propheten und formten ganz neu ihre jüdische Identität. Nach 70-jähriger Gefangenschaft wendete sich das Schicksal des Volkes: 538 v. Chr. eroberten die Perser das babylonische Reich und erlaubten den Israeliten ihr Land wieder aufzubauen und zu besiedeln. Juda blieb jedoch eine Provinz im Perserreich. Souveränität war den Juden seither versagt.
Die Perser unterstützten den Wiederaufbau des zerstörten Tempels, der 515 v. Chr. fertiggestellt wurde. Allerdings war dieser etwas kleiner als der erste und auch weniger prächtig. Erst Herodes der Große baute den Tempel ab 20 v. Chr. prachtvoll aus. Diese Arbeiten wurden aber erst lange nach Tod des berühmt-berüchtigten Herrschers vollendet – nur sechs Jahre vor der endgültigen Zerstörung des Tempels im Jahr 70 n. Chr.
Unter dem Schriftgelehrten Esra und dem Statthalter Nehemia wurde von 445 bis 433 v. Chr. auch Jerusalem erneut aufgebaut und mit einer mächtigen Mauer umgeben. Den Status »Hauptstadt« jedoch erhielt Jerusalem nicht mehr.
Aufstrebende Weltmächte erkannten die strategische Wichtigkeit des Landstrichs zwischen drei Kontinenten. Alexander der Große überrannte 332 v. Chr. Israel, nach seinem Tod zogen die Ptolemäer (ab 312 v. Chr.) ins Land, danach die Seleukiden (ab 199 v. Chr.).
Erst im Jahre 164 v. Chr. wurde Jerusalem ein letztes Mal in der Antike souveräne Hauptstadt. Judas Makkabäus führte in den Jahren zuvor einen Aufstand gegen den Seleukidenherrscher Antiochus Epiphanes IV, der den jüdischen Glauben verboten und den Tempel geschändet hatte. Nach seinem Sieg wurde der Tempel erneut Gott geweiht und Makkabäus gründete die Hasmonäerdynastie, die Juda bis zum Einmarsch der Römer im Jahre 63 v. Chr. regierte.
In jenem Jahr nutzte der Feldherr Pompejus einen Bruderkrieg unter den Hasmonäern zur Eroberung des Landes aus und beendete damit die letzte kurze Blüte des jüdischen Volkes. Er machte Juda zur römischen Provinz Judäa. Das Gebiet westlich des Sees Genezareth nannte man fortan Galiläa. Juda ging endgültig als souveräne Nation unter. Herodes der Große wurde um 73 v. Chr. geboren und sicherte sich mit römischer Hilfe im Jahr 37 v. Chr. die Herrschaft in Judäa und machte Jerusalem zu seinem Regierungssitz. Er ließ die Ausübung des jüdischen Glaubens unbehelligt und baute großzügig den Tempel aus und erweiterte ihn um seinen Wohnsitz, die Burg Antonia. Herodes war ein großer Bauherr, aber auch ein grausamer Tyrann. Er war es, der nach Jesu Geburt alle Jungen in Bethlehem, die zwei Jahre und jünger waren, töten ließ. Nach seinem Tod kurz nach Christi Geburt teilte Kaiser Augustus sein Herrschaftsgebiet unter seinen Söhnen Archelaos, Herodes Antipas und Herodes Philippos auf.
