Pada tanggal 10 November 2012 Drs. M. Haidar (Pendiri) melaksanakan peletakan batu pertama pesantren diatas tanah seluas 16.800 m2 yang merupakan wakaf seorang pengusaha Cilegon yang bernama Bachtera Surya (alm) bin H. Efendi Mustofa.

Diawali dengan pertemuan antara Drs. M. Haidar dengan Bapak Bachtera Surya ketika melaksanakan umroh  pada bulan September 201 di hotel Retaj Zam Zam Tower Makkah, ketika terjadi perbincangan tentang keinginan pendiri untuk mendirikan pesantren, lalu beliau menganjurkan pendiri untuk silaturrahmi ke rumah beliau di Cilegon untuk melihat beberapa bidang tanah yang beliau miliki, setelah Pendiri bersilaturrahmi dan melihatnya, akhirnya beliau mewakfkan tanah yang sekarang menjadi pesantren. Untuk mengenang pertemuan itu maka dinamailah pondok ini dengan nama Al-haromain yang berarti dua tanah haram yaitu Makkah dan Madinah.

Pembangunan pesantren ini cukup lama kurang lebih 12 tahun, hal ini dikarenakan medan tanah perbukitan  dan berbentuk hutan serta bergelombang,  sehingga angkutan matrial untuk pembangunan  cukup sulit dan memakan waktu yang lama kemudian faktor finansial yang agak tersendat karena dana pembangunannya  hanya berasal dari sumber pribadi pendiri.

Proses pelaksanaan pembangunan pesantren cukup menguras pikiran tenaga dan waktu, dan hal ini tidak terlepas dari peran perjuangan sang istri Hajjah Siti Arfah yang senantiasa ikut serta aktif didalam setiap kesempatan, beliau tidak hanya meluangkan waktu dan fikiran namun juga beliau membantu dalam bentuk finansial, namun Allah berkendak lain sebelum beliau melihat bagaimana pesantren ini digunakan, beliau dipanggil Allah pada hari Sabtu, 5 Maret 2023.

Kami bersyukur berkat doa keluarga, saudara dan sahabat dan juga bantuan sebagian matrial dari  bongkaran eks gedung Annida Al Islamy akhirnya pembangunan pesantren dapat terwujud.

Atas izin Allah Swt, pada tanggal 15 Juli 2024 secara resmi pesantren ini dibuka dengan nama Pondok Modern dan Tahfidz Al-Haromain dengan santri sebanyak 21 orang, 7 wanita dan 14 pria, dan seluruh santri digratiskan sampai lulus.