Yang dimaksud dengan dasar pendidikan adalah pandangan hidup yang mendasari seluruh aktivitas pendidikan. Karena dasar menyangkut masalah ideal dan fundamental, maka diperlukan landasan dan pandangan hidup yang kokoh dan komprehensif, serta tidak berubah. Hal ini karena telah diyakini kebenarannya yang telah teruji oleh sejarah. Kalau nilai-nilai sebagai pandangan hidup yang dijadikan dasar pendidikan itu bersifat relatif da temporal, maka pendidikan akan mudah terombang ambing oleh kepentingan dan tuntutan sesaat yang bersifat teknis dan pragmatis .

Sebagai aktivitas yang bergerak dalam proses pembinaan kepribadian muslim, maka pendidikan Islam memerlukan asas atau dasar  yang dijadikan landasan kerja. Dengan dasar ini akan memberi arah bagi pelaksanaan pendidikan  yang telah diprogramkan. Dalam konteks ini, dasar yang menjadi acuan pendidikan Islam hendaknya merupakan sumber nilai kebenaran dan kekuatan yang dapat mengantarkan peserta didik ke arah pencapaian pendidikan. Oleh karena itu, dasar yang terpenting dari pendidikan Islam adalah al-Qur’an dan Sunah Rasulullah (hadis).

Terdapat dalam Al-Qur’an, surat Asy-Syura ayat 52, yang artinya: “Dan demikian kami wahyukan kepadamu wahyu (Al-Qur’an) dengan perintah kami. Sebelumnya kamu tidaklah mengetahui apakah iman itu, tetapi kami menjadikan Al-Qur’an Itu cahaya yang kami beri petunjuk dengan dia siapa yang kami kehendaki di antara hamba-hamba Kami. Dan sesungguhnya kamu benar-benar memberi petunjuk kepada jalan yang  benar.”

Hadis nabi Muhammad SAW yang artinya: “Sesungguhnya orang mukmin yang paling dicintai oleh Allah ialah orang yang senantiasa tegak taat kepada-NYA dan memberikan nasihat kepada hamba-Nya, sempurna akal pikirannya, serta menasehati pula akan dirinya sendiri, menaruh perhatian serta mengamalkan ajran-Nya selam hayatnya, maka beruntung dan memperoleh kemenangan ia.” ( Al-Ghazali, Ihya’ Ulumuddin hal 90).

Dari ayat Al-Qur’an dan Hadis Nabi  di atas dapat diambil titik relevansinya dengan atau sebagai dasar pendidikan agama, mengingat :

1. Bahwa Al-Qur’an diturunkan kepada umat manusia untuk memberi petunjuk ke arah jalan hidup yang lurus dalam arti memberi bimbingan ke arah jalan yang diridhoi Allah SWT.

2. Menuju hadis Nabi bahwa di antara sifat orang mukmin ialah saling menasehati untuk mengamalkan ajaran Allah, yang dapat diformulasikan sebagai usaha atau dalam bentuk pendidikan Islam.

3. Al-Qur’an da Hadis tersebut menerangkan bahwa Nabi adalah benar-benar memberi petunjuk ke jalan yang lurus, sehingga beliau memerintahkan kepada umatnya agar saling memberi petunjuk, memberikan bimbingan, penyuluhan dan pendidikan Islam.

Moh. Athiyah al-Abrasyi dalam bukunya “Dasar-dasar Pokok Pendidikan Islam” menegaskan bahwa pendidikan agama adalah mendidik akhlak dan jiwa mereka, menanamkan rasa fadhilah (keutamaan), membiasakan mereka dengan kesopanan yang tinggi, mempersiapkan mereka untuk suatu kehidupan yang suci seluruhnya ikhlas dan jujur.  

Menetapkan Al-Qur’an dan Hadis sebagai dasar pendidikan Islam bukan hanya dipandang sebagai kebenaran yang didasarkan pada keimanan semata. Namun justru karena kebenaran terdapat dalam dua dasar tersebut dapat diterima oleh akal manusia dan dapat dibuktikan dalam sejarah atau pengalaman kemanusiaan. Sebagai pedoman, al-Qur’an tidak ada keraguan padanya (Q.S. Al-Baqarah/2:2). Ia tetap terpelihara kesuciannya dan kebenarannya (Q.S.s ArRa’d/15:9), baik dalam pembinaan aspek kehidupan spiritual maupun aspek sosial budaya dan pendidikan. Demikian pula kebenaran hadis sebagai dasar kedua bagi pendidikan Islam.  Kepribadian Rasul (Q.S. Al-Ahzab/33:21). Oleh karena itu prilakunya senantiasa terpelihara dan terkontrol oleh Alllah SWT (Q.S. An-Najm/53:3-4).

Dalam pendidikan Islam, Sunnah Rasul mempunyai dua fungsi, yaitu: (1) Menjelaskan sistem pendidikan Islam yang terdapat dalam al-Qur’an dan menjelaskan hal-hal yang tidak terdapat di dalamnya, (2) Menyimpulkan metode pendidikan dari kehidupan Rasululllah bersama sahabat, perlakuannya terhadap anak-anak, dan pendidikan keimanan yang pernah dilakukannya .

Secara lebih luas, dasar pendidikan Islam menurut Sa’id Ismail Ali, sebagaimana dikutip Langgulung terdiri atas enam macam, yaitu; al-Quran , Sunnah, qaul shahabat, maalih al-mursalah, ‘urf dan pemikiran hasil dari ijtihad intelektual muslim . Seluruh rangkaian dasar tersebut secara secara hierarki menjadi acuan pelaksanaan sistem pendidikan Islam.