Ajaran tasawuf yang dipelajarinya ialah Taswuf Salafiyah yang didalaminya dengan berguru kepada Abu al-Hasan di Iraq. Kemudian setelah belajar tasawuf yang dibawanya banyak diikuti oleh oleh masyarakat Basrah dan umat islam saat itu. Karena tasawuf beliau bersumber dari Tasawuf Sahab bin Abdullah al-Tistari.
 

Sebagai seorang Sufi, Abu Thalib memiliki dasar-dasar pemikiran yang telah dikembangkannya. Pemikiranya banyak tertulis dalam karya monumentalnya yaitu; Qut al-quluub fi mu`allamatil mahbub wa washf thariq al-muriid ila maqaam al-tauhiid yang banyak dibaca secara luas dan dianjurkan selama beberapa abad. Kitab ini menjadi rujukan para sufi, bahkan al Ghazali sebelum menulis Ihya Ulumuddin. Dan sebagai sufi yang mengembangkan tasawuf amali, Abu Thalib memiliki jasa besar dalam dunia Thariqah.

 

Tasawuf Amali Abu Thalib al Makki
Sebagaimana para sufi amali lainnya, Abu Thalib al Makki dalam tasawufnya juga menekankan pada aspek amaliyah. Tasawuf amali yang oleh beberapa kalangan disebut juga sebagai tasawuf syar’i, memaksimalkan perintah syari’at sebagaimana digariskan Syari’ (Allah) lewat Nabi Muhammad. Karena kedekatan pada Allah dan cinta-Nya hanya dapat diupayakan dengan pengamalan syari’at itu sendiri dengan sesungguhnya. Syari’at tidak dijadikan sekedar dijadikan hal instrumental belaka, tetapi diikuti dengan kemantapan hati. Shalat, puasa, haji, zakat dan lainnya yang dibarengi dengan keikhlasan dan kesungguhan seseorang dalam melaksanakan, tidak sekedar menunaikan kewajiban atau sekedar symbol keislaman.
Begitu pula dalam hal keyakinan. Tasawuf yang berangkat dari tauhid, harus benar-benar mentauhidkan Tuhan baik dalam ucapan, hati dan tindakan. Ketika seseorang bersaksi akan Allah sebagai Tuhan dan Muhammad sebagai Nabi dan Rasul-Nya, maka dia harus siap dengan konsekuensi-konsekuensi logis keimanan dan keislamannya.
Menurut Abu Thalib al Makki, Tasawuf hanya dapat ditegakkan di atas dasar-dasar yang kuat. Tanpanya, dia tidak berarti apa-apa. Dan untuk mencapai dasar-dasar tersebut, maka seseorang harus melalui tujuh tahap sebagai berikut:
1.        Kehendak yang benar dan konsekuen
2.        Membina hidup takwa dan menolak keburukan atau maksiat
3.        Memiliki pengetahuan keadaan diri, mengetahui kelemaahan diri
4.        Selalu makrifat dan dzikir
5.        Banyak tobat nasuha
6.        Makan makanan halal dan tahu hukumnya sebagaimana penjelasan syara’
7.        Selalu bergaul dengan orang yang shaleh dan menegakkan takwa yang sejati.[4]
Selanjutnya Abu Thalib al Makki menuliskan bahwa dalam penguatan tasawufnya ada empat penyangga untuk memprkuat kehidupan para sufi yaitu: pertama, membiasakan diri dengan keadaan yang lapar, karena pada saat itulah ia bisa bertaqaruf kepada tuhannya dan bisa mendapat hidayahnya. Kedua, dengan cara solat malam. Karena dengan cara itu kita bisa mendekatkan diri terhadap tuhannya tanpa ada gangguan dari siapaun. Ketiga, banyak berdiam diri dan menyebut namanya ,karena jalan itu bisa mendekatkan diri kepada tuhannya. Keempat, menyendiri dan banyak berzikir. karena dengan berzikir dapat mendekatkan diri kita kepadanya.
Melihat berbagai konsep dan ajaran Abu Thalib al Makki di atas, jika dibandingkan dengan tokoh-tokoh lain tasawuf amali atau syar’i berupa maqam-maqam atau tingkatan jalan sufistik seseorang meliputi:
a.         Taubah: pembersihan diri dari dosa
b.        Zuhd: sederhana dalam hal duniawi
c.         Sabr: pengendalian diri
d.        Tawakal: berserah diri sepenuhnya kepada Allah
e.         Ridha: menerima qada dan qadar dengan rela
f.         Mahabah: cinta kepada Allah
g.         Ma'rifah: mengenal keesaan Tuhan
           Dalam tasawufnya yang menekankan pada amal, Abu Thalib banyak menekankan pada hakekat amal yang tampak di mata sebagai manifestasi dari Iman  yang tersimpan di dada. Dalam buku Tafsir Sufistik Rukun Islam yang diterjemahkan dari Quthu al Qulub karya Abu Thalib, Dia menuliskan bahwa perumpamaan iman dan amal itu tak ubahnya seperti hati dan tubuh, keduanya tidak terpisah. Tubuh tanpa hati tidak bisa hidup, begitu pula sebaliknya. Di sini dia mau menunjukkan hubungan iman yang ada di hati dan Islam yang tampak dalam berbagai ibadah. Hal ini merupakan penolakan terhadap mereka yang mengatakan Islam dan iman yang tak sejalan sekaligus menunjukkan bahwa tasawuf dan fiqih itu sejalan.[5] Hal ini jauh berbeda dengan para sufi falsafi dan mereka yang lebih melihat tasawuf sebagai kesatuan eksistensial dengan Tuhan.