Gerakan Islam yang yang mengajarkan ilmu cara menyucikan jiwa, menjernihkan akhlak, membangun lahir dan batin serta untuk memeperoleh kebahagiaan yang abadi, sering disebut dengan tasawuf. Dan kata-kata Tasawuf itu sendiri, mulai terdengar di akhir abad kedua Hijriyah.
Menurut penelitian yang sangat cermat, ahli kebatinan yang awal sekali di beri gelar orang sebagai "Shufi" ialah Abu Hasyim dari Kaufah dan bermukim di Syiria. Beliau sezaman dengan Sufyan ats Tsauri, dan meninggal dunia pada tahun 150 H (761 M). Kehidupan sehari-hari Abu Hasyim ialah memang menconoth kesederhanaan Nabi dan sahabat-sahabatnya, tidak memeperdulikan ikatan-ikatan kemegahan dan kemewahan duniawi, yang tidak ada batasannya kecuali dalam hati itu sendiri.
Sebenarnya banyak sekali pendapat-pendaoat dari para ahli tentang kalimat tasawuf tersebut. Ahli-ahli dari bangsa Eropa juga sangat giat dalam melakukan penelitian tentang kalimat tasawuf itu. Bahkan konon, penelitian mereka tentang kehidupan Tasawuf Islam melebihi daripada penelitian mereka atas cabang-cabang ilmu keislaman yang lain.
Ada yang meyebutkan bahwa kalimat tasawuf itu berasal dari kata Shafw, artinya bersih, atau shafaa artinya bersih juga.
Dan ada juga yang berpendapat bahwa kalimat itu diambil dari pada Shuffah, yaitu suatu kamar disamping masjid Rasulullah SAW di Madinah, yang disediakan untuk sahabat-sahabat Nabi yang miskin, tetapi kuat imannya, yang makan minum mereka ditanggung oleh orang-orang yang mampu di dalam kota Madinah. Banyak juga sahabat-sahabat utama yang pernah tinggal di tempat itu, seperti Abu Dardak, Abu Zarr, Abu Hurairah dan lain-lain.
Dan juga ada yang berpendapat bahwa kalimat tasawuf itu mengambil sandaran dari kalimat Shaufanah yaitu sejenis buah-buahan kecil berbulu-bulu yang banyak tumbuh di padang pasir tanah Arab. Sebab pakaian kaum shufi itu berbulu-bulu layaknya seperti buah shaufanah itu.
Ada juga yang mengambil sandaran bahwa kalimat ini bersandar pada Shaff, yaitu barisan-barisan shaf ketika shalat. Sebab orang-orang yang kuat imannya dan murni kebatinannya itu, biasanya shalat memilih shaf yang pertama'
Tetapi peneliti-peneliti Barat seperti Van Harmer mengeluarkan pendapat yang lebih baru dari ambilan logat itu. Kata mereka kalimat tasawuf itu diambil dari dua kata Yunani, yaitu theo dan sofos. Theo artinya Tuhan, sofos artinya hikmat. Jadi "Hikmat Ketuhanan" (Al Hikmatul Ilahiyah). Sebab kata mereka seperti buah-buah pikiran yang telah banyak dipengaruhi oleh filsafat Yunani, terutama Neo Platonisme terhadap jalan pikiran alam Islami. Jadi kalimat itu bukanlah berasal dari bahasa Arab, melainkan bahasa Yunani yang telah di Arabkan.
Sandaran-sandaran yang berdasarkan logat ini tidak lah tepat, yaitu seandainya hendak kita pakai kias aturan tata bahasa Arab. Kalau seandainyab kata yang diambil kita katakan Shafw, hendaklah perbandingannya dikatakan shuffah, hendaklah nisbahannya suffi, dengan tasydid (dua f). Lebih-lebih lagi jika dikatakan asal katanya adalah dari kata Shuffanah, tentu nisbahannya bukan shufi, akan tetapi Shufani.
Terlalu terburu-buru pernyataan yang mengatakan bahwa asal Tasawuf nya berasal dari kata Yunani yang telah di Arabkan, yaitu gabungan antara kata Theo dan Sofos. Sangatlah tidak mungkin. Sebab sebelum berkembangnya ilmu pengetahuan Yunani dalam kalangan bangsa Arab di zaman Al Ma'mun, Abu Hasyim yang meninggal tahun 150 H, telah digelari orang Shufi. Al Kinsi seorang filosof Yunani, buah tangan Plato, Aristoteles dan ajaran Neo Platonisme, tentu saja lebih pantas digelari orang shufi, kalau seandainya kata-kata ini diambil dari bahasa Yunani.
Ternyata Abu Hasyim lebih dahulu mendapat gelar shufi dari pada Al Kindi.
Oleh sebab itu, kebiasaan memberi gelar shufi yang pertama dan ilmunya ilmu Tasawuf, kepada merekalah yang telah menyediakan hidupnya bagi kepentingan kerohanian dan kemurnian batin, dengan pakaian mereka yang terbuat dari pada bulu kasar, belumlah dapat dijatuhkan oleh teori yang lain, sampai saat ini. Dan lebih tepat lagi jika Shufi itu di tujukan kepada orang-orang yang memakai baju kasar dari pada bulu itu (Shufi). Dan kalimat Tasawuf tetaplah sebagai suatu pengambilan bahasa yang disebut dalam ilmu sharaf "babtafa ul", yang memfaedahkan bagi Shairurah.
Sebagai kesimpulan, Al Junaid, menyatakan pendapatnya tentang arti Tasawuf :
"Tasawuf ialah membersihkan hati dari pada apa yang mengganggu perasaan kebanyakan makhluk, berjuang menanggalkan pengaruh budi yang asal (insting) kita, memadamkan sifat-sifat kelemahan kita sebagai manusia, menjauhi segala seruan dari hawa nafsu, mendekati sifat-sifat suci kerohanian, dan bergantung kepada ilmu-ilmu hakikat, memakai sesuatu yang penting dan terlebih kekal, menaburkan nasehat kepada sesama ummat manusia, memegang teguh janji dengan Allah dalam hal hakikat, dan mengikuti contah Rasulullah dalam hal syari'at"