Ukiran relief bersejarah yang pernah ditemukan pada sebuah pilar di dalam Masjid Agung Gaza. Hiasan ini menampilkan menorah yang dikelilingi karangan bunga, dengan shofar (tanduk domba jantan) dan etrog (buah sitrun) yang diukir di sisinya. Prasasti di bawah menorah ditulis dalam bahasa Ibrani dan Yunani. Tulisan tersebut diterjemahkan menjadi "Hanania, putra Yakub". (commons.wikimedia.org/Clermont-Ganneau, Charles; Stewart, Aubrey; Macfarlane, John.)
Masjid Agung Gaza berdiri di atas lahan yang memiliki sejarah spiritual yang sangat panjang, dimulai dari kuil kuno bangsa Filistin yang kemudian berubah menjadi gereja Bizantium pada abad ke-5. Setelah penaklukan Islam pada abad ke-7, bangunan ini diubah menjadi masjid dengan nama "Al-Omari" sebagai penghormatan kepada Khalifah Umar bin Khattab. Menariknya, di dalam bangunan ini sempat ditemukan pilar dengan simbol Yahudi (Menorah) yang diduga berasal dari sinagoge kuno, yang oleh para ahli dianggap sebagai bukti adanya kerukunan antarumat beragama di masa lalu.
Seiring berjalannya waktu, bangunan ini terus mengalami perubahan fungsi dan bentuk akibat dinamika kekuasaan di Palestina. Pada masa Perang Salib di abad ke-12, lokasi ini kembali dijadikan gereja besar sebelum akhirnya direbut kembali oleh pasukan Saladin dari Dinasti Ayyubiyah. Memasuki era Mamluk di abad ke-13 dan ke-14, masjid ini mengalami renovasi besar-besaran meski sempat hancur beberapa kali akibat serangan bangsa Mongol serta bencana gempa bumi yang dahsyat.
Pada masa Kesultanan Utsmaniyah hingga era modern, Masjid Agung Gaza terus dipugar dan menjadi pusat aktivitas sosial serta politik bagi masyarakat Gaza. Meskipun sempat mengalami kerusakan parah akibat pengeboman pasukan Sekutu pada Perang Dunia I karena dianggap sebagai tempat penyimpanan amunisi, tetapi masjid ini berhasil dibangun kembali pada tahun 1926. Hingga kini, masjid ini tetap menjadi simbol identitas yang sangat penting bagi warga Gaza dalam menghadapi berbagai tantangan sejarah.