Sejatinya, Persatuan Ummat Islam (PUI) telah lahir sejak satu abad silam. Ketika itu, tahun 1911, Abdul Halim yang belum lama pulang dari tiga tahun memperdalam ilmu agama di kota suci Mekah mendirikan organisasi yang diberinya nama Majlis al-‘Ilmu atau majelis ilmu, di kota kelahirannya, Majalengka, Jawa Barat. Secara perlahan tapi pasti, Abdul Halim terus membenahi organisasi yang didirikannya itu hingga menjadi organisasi modern.

Setelah berdiskusi dengan banyak tokoh pergerakan Islam seperti HOS Cokroaminoto, rekannya yang lebih dulu mendirikan organisasi terkemuka dan berpengaruh Syarikat Dagang Islam, Abdul Halim menjelmakan Majlis al-‘Ilmi tadi menjadi Perikatan Oemmat Islam (POI) atau PUI menurut ejaan baru. Meski berdiri jauh di Majalengka, kota berjarak sekitar 92 km dari Bandung atau sekitar 300 km dari ibukota Jakarta, POI terus berkembang ke berbagai pelosok Jawa Barat, kemudian ke daerah-daerah lain di Jawa dan Madura.

Sementara itu, Ahmad Sanusi, rekan Abdul Halim sesama pelajar di Mekah, 20 tahun kemudian pada 1931 mendirikan organisasi serupa di Sukabumi, yang diberinya nama Al-Ittihadiyat Al-Islamiyyah (AII). Pada masa pendudukan Jepang, AII sebagai anggota MIAI, mengalami proses seperti POI/PUI. Pada saat itulah, di tahun 1942, AII berganti nama menjadi Persatuan Oemmat Islam Indonesia (POII), dan pada 1947 menjadi PUII disesuaikan dengan ejaan baru bahasa Indonesia.

Perjuangan POII/PUII sejak awal secara prinsipil sama dengan POI/PUI. Mengapa demikian? Karena kedua tokoh pergerakan ini, saat belajar di Mekah, memang sama-sama mencita-citakan kemerdekaan Indonesia dan kemajuan muslimin sedunia sebagaimana diserukan para tokoh pembaharu seperti Jamaluddin al-Afghani dan Muhammad Abduh. Melalui organisasi, mereka mencita-citakan terwujudnya pribadi, keluarga, masyarakat, negara dan peradaban yang diridlai Allah S.w.t — yang tetap merupakan tujuan perhimpunan PUI hingga saat ini.

Kedua organisasi — POI/PUI di Majalengka dan POII/PUII di Sukabumi — bersama-sama dengan organisasi-organisasi Islam lainnya senantiasa berupaya untuk menyadarkan bangsa Indonesia, khususnya ummat Islam, untuk membebaskan diri dari kebodohan, keterbelakangan, kemiskinan dan kepicikan berpikir sebagai akibat dari politik penjajah, baik dari Eropa (Portugis, Spanyol, Inggris dan Belanda) maupun dari bangsa Asia sendiri, Jepang.

Upaya tersebut dilakukan POI/PUI dan POII/PUII melalui kegiatan sosial, dakwah dan pendidikan maupun melalui keikutsertaan kedua tokohnya dalam pergerakan politik saat itu. Sebagai tokoh terpandang, KH Abdul Halim maupun KH Ahmad Sanusi terlibat aktif dalam percaturan politik di pusat kekuasaan di Jakarta. Antara lain, mereka menjadi anggota konstituante. Mereka pun dianugerahi sejumlah perhargaan dari Pemerintah Indonesia.

Namun, keterlibatan mereka sejenak di politik tak membuat organisasi POI/PUI dan POII/PUII menjadi partisan. Malah, visi dan missi kedua organisasi sama, yakni di bawah panji ukhuwan Islamiyah menjaga dan memelihara persatuan ummat, serta menghindarkan mereka dari perpecahan. Itu sebabnya, ketika banyak partai dan organisasi Islam mengalami perpecahan akibat sikap partisan yang keterlaluan, para pimpinan POI/PUI dan POII/PUII bersepakat melakukan penggabungan organisasi.

Dengan latar belakang keprihatinan atas situasi politik dan pertentangan keagamaan di kalangan ummat tersebut, maka pada 5 April 1952 H. bertepatan dengan 9 Rajab 1373 H., kedua organisasi besar itu — POI/PUI dan POII/PUII — berfusi (bergabung) menjadi satu ormas Islam yang kini dikenal dengan Persatuan Ummat Islam (PUI).

Sebagai organisasi pergerakan Islam, PUI melanjutkan kiprahnya yang telah banyak dirintis para pendirinya, khususnya di bidang pendidikan, dakwah, sosial dan ekonomi. Kini, asas perhimpunan tetaplah Islam, yang dalam amaliahnya berpedoman kepada Al-Qur’an dan As-Sunnah menurut pemahaman Ahlus Sunnah Wal Jama’ah serta memperhatikan dasar Negara Kesatuan Republik Indonesia, Pancasila.

Pendiri PUI KH. Abdul Halim dan KH. Ahmad Sanusi tercatat sebagai wakil rakyat dalam Badan Penyelidik Usaha-Usaha Persiapan Kemerdekaan Indonesia (BPUPKI). Dan berkat jasa-jasanya mereka, keduanya dianugerahi gelar Bintang Maha Putera Utama pada Tahun 1992, dan gelar kehormatan kedua diperolehnya pada tahun 2010. Sementara KH. Abdul Halim telah dianugrahi gelar Pahlawan Nasional pada November 2008.