Keberadaan bangunan tua berusia lebih dari 100 tahun di jantung kota Semarang ini gak bisa lepas dari sejarah panjang yang melingkupinya. Didirikan tahun 1904, tujuan awal pembangunan gedung Lawang Sewu adalah sebagai kantor pusat Nederlands-Indische Spoorweg Maatschappij atau NIS, yang merupakan salah satu perusahaan kereta api di Hindia Belanda.
Sebelum berkantor di Lawang Sewu, kantor pusat NIS mulanya terletak di Stasiun Semarang Gudang. Namun, karena aktivitas operasional NIS makin berkembang, kian lama kantor di Stasiun Semarang Gudang kian tak mampu lagi menampung tambahan personel. Sebagai solusi, dicarilah lahan kosong untuk membangun gedung kantor pusat baru bagi NIS. Di ujung jalan yang kini bernama jalan Pemuda-lah bangunan tersebut didirikan, yang kini familier dengan nama Lawang Sewu.