Dalam Islam istilah kepemimpinan dikenal dengan istilah khilafah, imamah, dan ulil amri. Juga ada istilah ra’in. Kata khalifah mengandung makna ganda. Di satu pihak khalifah diartikan sebagai kepala negara dalam pemerintahan dan kerajaan Islam di masa lalu, yang dalam konteks kerajaan pengertiannya sama dengan kata sulthan. Di lain pihak, cukup dikenal pengertian khalifah sebagai “wakil Tuhan” di muka bumi (Raharjo, 1996). Yang dimaksud dengan wakil Tuhan itu bisa dua macam. Pertama, yang diwujudkan dalam jabatan sultan atau kepala negara. Kedua, fungsi manusia itu sendiri di muka bumi, sebagai ciptaan Tuhan yang paling sempurna.

Selain itu dikenal pula istilah khalifatur rasul atau khalifatun nubuwwah yaitu pengganti Nabi sebagai pembawa risalah atau syariat, memberantas kelaliman dan menegakkan keadilan. Sayyid Rasyid Ridha dalam Al-Manar memberikan batasan sebagai sosok manusia yang dibekali dengan akal dan pikiran serta ilmu pengetahuan yang tidak dimiliki makhluk lain. Imam atau imamah sering diartikan secara lebih spesifik untuk menyebut pemuka agama, pemimpin keagamaan, atau pemimpin spiritual yang diikuti dan diteladani fatwa atau nasihat-nasihatnya secara patuh oleh pengikut-pengikutnya. Dalam beberapa Hadis Nabi, imam sering diartikan dengan pemimpin, penguasa atau amir, yang mempunyai kekuasaan untuk mengatur orang-orang atau masyarakat.

Ulil amri diartikan oleh al-Maraghi sebagai pemerintah, ulama, cendekiawan, pemimpin militer atau tohoh-tokoh masyarakat yang menjadi tumpuan bagi umat, menerima kepercayaan atau amanat dari anggota masyarakat. Sementara Mahmud Syalthout mengartikannya sebagai orang-orang cerdik pandai yang dikenal oleh umat sebagai orang yang ahli dalam berbagai bidang serta mengerti kepentingan umatnya. Sedangkan kata ra’in berarti penggembala, pengelola dan pemimpin. Dalam satu hadis dikatakan bahwa setiap manusia adalah pemimpin dan dia akan diminta pertanggungjawaban terhadap kepemimpinannya itu. Selain kata-kata di atas ada lagi istilah-istilah lain yang berkaitan dengan kepemimpinan dalam Islam seperti kata wali, rais dan wakil, yang mempunyai pengertian yang hampir sama dengan sedikit perbedaan dan spesifikasi.

Perbedaan pengertian kepemimpinan dalam Islam dan yang dikemukakan oleh para teoris kepemimpinan adalah, bahwa kepemimpinan dalam Islam adalah dalam rangka menjalankan fungsi-fungsi manusia sebagai khalifah di muka bumi. Selain itu juga landasan dalam menjalankan kepemimpinan dalam Islam harus berdasarkan atas Alquran dan hadis.

Menurut Ihsan Tanjung (2002) kepemimpinan didalam Islam pada hakekatnya adalah berkhidmat atau menjadi pelayan umat. Kepemimpinan yang asalnya adalah hak Allah diberikan kepada manusia sebagai Khalifatullah fil ardli, wakil Allah SWT di muka bumi. Jika bukan karena iradah-Nya, tak ada seorangpun yang mendapatkan amanah kepemimpinan, baik kecil maupun besar. Oleh karena itu setiap amanah kepemimpinan harus dipertanggungjawabkan di hadapan Allah Swt. Allah Swt. memberikan amanah kepada pemimpin untuk (1) mengatur urusan orang yang dipimpinnya, (2) mengarahkan perjalanan sekelompok manusia yang dipimpinnya guna mencapai tujuan bersama, dan (3) menjaga dan melindungi kepentingan yang dipimpinnya. Wewenang dan kekuasaan yang diberikan kepada seorang pemimpin tidaklah ringan di mata Allah. Meskipun seringkali godaan setan dengan iming-iming keuntungan dunia telah memalingkan motivasi para pemimpin dari tujuan bersama.