Byen inden for murene er opdelt i fire kulturelt og religiøst forskellige kvarterer: Nordvest er kristent, nordøst muslimsk, sydøst jødisk og sydvest armensk.

I Den Gamle By findes jødernes og de kristnes mest hellige steder nemlig Grædemuren (Ha-Kotel/Western Wall/Vestmuren) og Gravkirken (Den Hellige Gravs Kirke/The Holy Sepulchre).

I Den Gamle By og øst for bydelen findes der mange hellige steder for de kristne og jøderne bl.a. Oliebjerget (Mount of Olives/Har HaZetim), Getsemane Have og en stor jødisk begravelsesplads (den dyreste i Israel). I Kidrondalen (Valley of Kidron) og syd for Møddingporten (Dung Gate) ligger Davids By, det ældste Jerusalem, og mange jødiske og kristne gravsteder.

Muslimernes tredje helligste sted er Al Aksa-moskeen, der ligger på den sydlige del af den jødiske Tempelplads (Tempelbjerget/Temple Mount/Mount Moriah). Midt på pladsen ligger Klippekuplen (Dome of the Rock).

De otte porte ind til byen ses på kortet.

Fra 1948 til juni 1967 var Den Gamle By besat af Jordan, det jødiske kvarter var smadret og jøderne fordrevet fra deres by og hellige steder. Der var en slags Berlinmur mellem øst og vest med begrænset adgang.

I forbindelse med Seksdagskrigen i juni 1967 blev byen atter genforenet og med fri adgang for alle til de hellige steder.

Læs mere om Jerusalem (Yerushalaim).