Yayasan Perguruan Islam Mambaul Ulum Grogolan Dukuhseti Pati pada awalnya hanya menyelenggarakan pendidikan tingkat Madrasah Ibtidaiyah (MI. Mambaul Ulum). Madrasah ini sudah beberapa tahun berjalan dan meluluskan banyak siswa. Namun, muncul kendala karena sebagian lulusan MI tidak melanjutkan ke jenjang Madrasah Tsanawiyah (MTs) akibat keterbatasan biaya dan sulitnya transportasi.
Melihat kondisi tersebut, para tokoh agama dan masyarakat Desa Grogolan, yaitu K. Shobari, K. Fahmi Sanjaya, K. Muhlisin, K. Fathurrohman, K. Maskub, dan K. Salamun, berinisiatif mendirikan Madrasah Tsanawiyah (MTs) di desa Grogolan. Tujuan pendiriannya adalah untuk :
- Meningkatkan jumlah lulusan MI/SD yang melanjutkan ke jenjang MTs.
- Mendukung tercapainya Tujuan Pendidikan Nasional.
Akhirnya, pada tanggal 1 Januari 1970 berdirilah MTs. Mamba’ul Ulum Grogolan. Saat pertama berdiri, jumlah siswa kelas I sebanyak 33 anak dan kegiatan belajar mengajar dilaksanakan di rumah salah satu warga, yaitu Ibu Kastini. Setahun kemudian, kelas II menempati rumah Bapak Fakih.
Pada tahun 1973 hingga 1987, MTs. Mamba’ul Ulum menempati gedung milik MI. Mambaul Ulum. Berkat semangat dan kerja keras para tokoh, pada tahun 1988 dibangunlah gedung MTs. Mamba’ul Ulum yang memiliki tiga ruang kelas di atas tanah wakaf dari K. Shobari.
Seiring dengan meningkatnya kebutuhan dan standar pendidikan, pada bulan November 2009 Yayasan Perguruan Islam Mambaul Ulum berhasil membangun gedung baru untuk MTs. Mamba’ul Ulum dengan enam ruang kelas di atas tanah seluas 1.134 m². Sementara itu, gedung lama kemudian digunakan untuk pengembangan Madrasah Ibtidaiyah.