Di Mekkah dan Madinah, Muhammad Arsyad mengaji atau belajar pada masyaikh terkemuka timur tengah pada masa itu. seperti Syekh ‘Athaillah bin Ahmad al-Mishry, al-Faqih Syekh Muhammad bin Sulaiman al-Kurdi dan al-‘Arif Billah Syekh Muhammad bin Abdul Karim al-Samman al-Hasani al-Madani.
Selama kurang lebih 35 tahun menuntut ilmu di Mekkah dan Madinah, Syekh Muhammad Arsyad Al Banjari juga menjalin persahabatan dengan sesama penuntut ilmu dari Tanah Jawi (Melayu), seperti Syekh Abdussamad al-Falimbani (Palembang-Sumatera Selatan), Syekh Abdurrahman Misri al-Jawi (Betawi-Jakarta) dan Syekh Abdul Wahab Bugis (Bugis-Sulawesi Selatan) Sehingga kelak mereka dikenal sebagai Empat Serangkai dari Tanah Jawi (Melayu).
Setelah dinilai cukup menuntut ilmu di Mekah serta Madinah, dan tidak mendapatkan restu dari para gurunya untuk belajar ke Mesir, tapi para gurunya justeru menyarankan agar keempat muridnya ini untuk pulang ke Jawi (Melayu, saat itu belum ada Indonesia) untuk berdakwah di negerinya masing-masing, maka setelah melakukan ibadah haji empat serangkai tersebut menuruti saran sang guru untuk pulang ke tanah Jawi (Melayu/Indonesia).Â
Untuk mempererat ikatan persaudaraan, kelak Syekh Muhammad Arsyad Al Banjari menikahkan putrinya Syarifah binti Syekh Muhammad Arsyad al-Banjari dengan salah satu dari tiga sahabatnya dari Empat Serangkai santri dari Tanah Jawi (Melayu) yaitu, Syekh Abdussamad Al-Falimbani, Syekh Abdurrahman Misri al-Jawi dan Syekh Abdul Wahab Bugis dengan cara diundi dan yang terpilih akhirnya adalah Syekh Abdul Wahab Bugis.
