Profesor Kyai Haji Ali Mustafa Yaqub tercatat pernah menuntut ilmu di sejumlah pesantren dan perguruan tinggi. Bahkan ia sempat mendalami tafsir dan hadis di Universitas King Saud, Arab Saudi.