Dalam menyikapi usulan yang masuk dari masyarakat Nahdliyin, PBNU menanggapinya secara hati-hati. Hal ini didasarkan pada adanya kenyataan bahwa hasil Muktamar NU ke-27 di Situbondo yang menetapkan bahwa secara organisatoris NU tidak terkait dengan partai politik manapun dan tidak melakukan kegiatan politik praktis.
Namun demikian, sikap yang ditunjukkan PBNU belum memuaskan keinginan warga NU. Banyak pihak dan kalangan NU dengan tidak sabar bahkan langsung menyatakan berdirinya parpol untuk mewadahi aspirasi politik warga NU setempat. Di antara yang sudah mendeklarasikan sebuah parpol adalah Partai Bintang Sembilan di Purwokerto dan Partai Kebangkitan Umat (Perkanu) di Cirebon.
Akhirnya, PBNU mengadakan Rapat Harian Syuriyah dan Tanfidziyah PBNU tanggal 3 Juni 1998. Forum ini menghasilkan keputusan untuk membentuk Tim Lima yang diberi tugas untuk memenuhi aspirasi warga NU.
Tim Lima diketuai oleh KH Ma'ruf Amin , dengan anggota, KH M Dawam Anwar, Dr KH Said Aqil Siroj, M.A. , HM Rozy Munir, dan Ahmad Bagdja untuk mengatasi hambatan organisatoris, Tim Lima itu dibekali Surat Keputusan PBNU.
Selain itu, dibentuk pula Tim Asistensi yang diketuai Arifin Djunaedi dengan anggota H Muhyiddin Arubusman, HM Fachri Thaha Ma'ruf, H Abdul Aziz, H Andi Muarli Sunrawa, HM Nasihin Hasan, H Lukman Saifuddin, Amin Said Husni, dan Muhaimin Iskandar.
Tim tersebut bertugas membantu Tim Lima, terutama untuk mengiventarisasi dan merangkum usulan warga NU yang ingin membentuk parpol baru. Inisiator pembentukan parpol bagi warga NU, KH Abdurrahman Wahid atau Gus Dur, prihatin bahwa kelompok-kelompok NU ingin mendirikan partai politik NU. Menurut dia, hal itu terkesan mengaitkan agama dan politik partai.
Pada akhir Juni 1998, sikap Gus Dur mengendur dan bersedia menginisiasi kelahiran parpol berbasis ahlussunnah wal jamaah. Keinginan Gus Dur diperkuat dukungan deklarator lainnya, yaitu KH Munasir Ali, KH Ilyas Ruchiyat, KH A Mustofa Bisri, dan KH A Muchith Muzadi.
Proses selanjutnya, penentuan nama partai disahkan melalui hasil musyawarah Tim Asistensi Lajnah, Tim Lajnah, Tim NU, Tim Asistensi NU, Perwakilan Wilayah, para tokoh pesantren, dan tokoh masyarakat.
Seusai pembentukan partai, deklarasi pun dilaksanakan di Jakarta pada 23 Juli 1998. Salah satu poin deklarasi menyebutkan, PKB bersifat kejuangan, kebangsaan, terbuka, dan demokratis. Meski berbasis NU, PKB juga beranggotakan orang-orang yang berasal dari luar NU, bahkan beberapa kader memiliki latar belakang agama yang bukan Islam.