Perselisihan faham antara kaum tua dengan kaum muda tentang masalah
ibadah. membuat kaum pelajar yang menimba ilmu di madrasah Maktab
Islamiyah Tapanuli (MIT) Medan resah. Para siswa tersebut memiliki
perkumpulan pelajar yang bernama Debating Club (Perkumpulan
Debat/diskusi). Dalam diskusi-diskusi rutin di perkumpulan itu sering
dibahas tentang masalah-masalah yang tengah terjadi pada umat Islam dan
salah satunya mengenai perbedaan pendapat di tubuh umat Islam.
Diskusi mencapai puncaknya pada bulan Oktober 1930. Di awal bulan itu
diadakan pertemuan di kediaman Yusuf Ahmad Lubis, di Jl. Glugur kota
Medan. Pada pertemuan yang dipimpin Abdurrahman Syihab dihadiri oleh
Yusuf Ahmad Lubis, Adnan Nur, M. Isa dan beberapa pelajar lainnya. Dalam
pertemuan itu disepakati untuk memperbesar perkumpulan pelajar yang
mereka miliki yaitu Debating Club. Untuk menindaklanjuti hasil rapat di
tempat Yusuf Ahmad lubis, selanjutnya diadakan pula pertemuan kedua di
rumah Abdurrahman Syihab di Petisah, kota Medan yang dihadiri oleh
Ismail Banda, Yusuf Ahmad Lubis, Adnan Nur, Abdul Wahab, dan M. Isa.
Disepakati dalam pertemuan itu untuk mengundang alim ulama, tuan-tuan
guru dan para pelajar lainnya pada pertemuan yang lebih besar yang
direncanakan pada 26 Oktober 1930 di Maktab Islamiyah Tapanuli (MIT)
Medan.
Sesuai dengan yang direncanakan, pertemuan yang lebih besar
berlangsung di MIT Medan. Pertemuan itu dihadiri para ulama, guru-guru,
pelajar dan pemimpin Islam di kota Medan dan sekitarnya. Setelah
melakukan pembicaraan yang cukup panjang dan mendalam, maka seluruh
peserta yang hadir kala itu sepakat membentuk sebuah perkumpulan yang
bertujuan memajukan, mementingkan dan menambah tersyiarnya agama Islam.
Pertemuan di MIT Medan itu dipimpin oleh Ismail Banda sebagai orang
yang tertua ketika itu, dan di forum tersebut disampaikan pula
penjelasan mengenai bentuk organisasi yang hendak didirikan nantinya.
Penjelasan mengenai bentuk organisasi disampaikan antara lain oleh
Ismail Banda, M. Arsyad Thalib Lubis dan H. Syamsudin.