Berdirinya Departemen Agama (sekarang : Kementerian Agama) merupakan hasil perjuangan para pemimpin Islam dan tokoh-tokoh nasional yang aktif dalam berbagai organisasi-organisasi seperti Majlis Islam A’la Indonesia ( MIAI ) maupun Badan Penyidik Usaha-usaha persiapan Kemerdekaan Indonesia ( BPUPKI ). Para pendiri tersebut antara lain KH. A. Wahid Hasyim, KH. Mansyur, KH. Abdul Kahar Muzakir, H. Agus Salim, Ki Bagus Hadikusumo, Abikusno Cokro Suyono.
Usaha pendirian Departemen Agama diperkuat oleh delegasi dari Komite Nasional Indonesia (KNI) Banyumas yang dipimpin oleh KH. Abu Dardiri dengan juru bicara M. Saleh Suaidi. Usulan tersebut disampaikan dalam sidang pleno Komite Nasional Indonesia Pusat ( KNIP ) pada tanggal 26 Nopember 1945 di Jakarta. Gagasan tersebut akhirnya diterima secara aklamasi dan mendapat dukungan dari semua anggota yang hadir.
Dengan usaha yang gigih inilah akhirnya keluarlah penetapan Pemerintah Nomor I / SD Tahun 1946, yang dikeluarkan pada tanggal 3 Januari 1946 yang merupakan dasar hukum berdirinya Departemen Agama. Kemudian diperkuat dengan Penetapan Menteri Agama ( PMA ) Nomor 6 Tahun 1956, yang ditandatangani pada tanggal 1 Maret 1956 oleh Menteri Agama RI, KH. Mohamad Ilyas.
Sebelum Departemen Agama terbentuk, pada Kabinet I Presidentil (02 September 1945 s.d. 14 Nopember 1945) dan Kabinet Syahrir I (14 Nopember 1945 s.d. 12 Maret 1946) telah diangkat Menteri Negara yang bertugas menangani permasalahan umat Islam yakni KH. A. Wahid Hasyim dan H.M. Rasjidi. Selanjutnya dalam perjalanan Pemerintahan Republik Indonesia, Departemen/Kementerian Agama telah dijabat oleh beberapa Menteri Agama yaitu :
1. H. Rasjidi, BA (3 Januari 1946 s.d. 2 Oktober 1946)
2. KH. Fatchurrahman (2 Oktober 1946 s.d. 3 juli 1947)
3. H. Anwaruddin A.I (3 juli 1947 s.d. 11 Nopember 1947)
4. KH. Masykur (11 Nopember 1947 s.d. 21 Januari 1950), bersamaan dengan itu di Sumatera sebagai Pemerintah Darurat RI Menteri Agama dirangkap oleh H. T.M. Hasan dan KH. Masykur kembali menjabat (1 Agustus 1953 s.d. 12Agustus 1955)
5. KH. Wahid Hasyim (20 Desember 1949 s.d. 6 September 1950) dan menjabat lagi (6 September 1950 s.d. 3 April 1952)
6. KH. Faqih Usman (21 Januari 1950 s.d. 6 September 1950) dan menjabat lagi (3 April 1952 s.d. 1 Agustus 1953)
7. KH. Muh. Ilyas (12 Agustus 1955 s.d. 10 Juli 1959)
8. KH. Muh. Wahid Hahab (10 juli 1956 s.d. 6 Maret 1962)
9. KH. Syaefudin Zuhri (16 Maret 1962 s.d. 13 Nop 1963 & 13 November 1963 s.d. 27 Agustus 1967)
10. KH. Moh. Dahlan (11 Oktober 1967 s.d. 6 September 1971)
11. Prof. Dr.H. A Mukti Ali (6 September 1971 s.d. 29 Maret 1978)
12. H. Alamsyah Ratu Perwira Negara (28 Maret 1978 s.d. 19 Maret)
13. H. Munawir Sadzali, MA (19 Maret 1983 s.d. 20 Maret 1993)
14. Dr. H. Tarmidzi Taher (20 Maret 1993 s.d. 1997)
15. Prof. Dr. Quraish Syihab (Maret 1998 s.d. 21 Mei 1998)
16. Prof. Drs. Malik Fadjar, M.Sc. (22 Mei 1998 s.d. 2000)
17. KH. Drs. Tolkhah Hasan (Tahun 2000 s.d. 2002)
18. Prof. Dr. H. Said Agil Husein Al Munawar, MA (Tahun 2002 s.d. 2004)
19. Dr. H. Maftuh M Basuni (Tahun 2004 s.d. 2009)
20. Drs. H. Suryadharma Ali, MSi (22 Oktober 2009 s.d. 28 Mei 2014)
21. Drs. H. Lukman Hakim Saifuddin (2014 s.d. sekarang)
Adapun sejarah berdirinya Kantor Kementerian Agama Kabupaten Sragen berdasarkan catatan pribadi KH. Fahrur Fathoni (Mantan Ketua MUI/Ulama di Sragen dan pensiunan PNS Departemen Agama) secara kronologis dapat dijelaskan sebagai berikut :
Kantor Urusan Agama Kabupaten Sragen mulai ada/berdiri sejak tahun 1946. Awalnya bernama Jawatan Agama, kemudian mengalami perubahan dan peralihan sehingga akhirnya menjadi Kementerian Agama RI. Bapak Raden Imam Dipuro adalah Kepala Jawatan Kepenghuluan pertama yang saat itu merangkap sebagai penghulu Pengadilan Agama. Bapak Abdussalam sebagai Ajung Penghulu, menjadi Wakil Kepala Jawatan kepenghuluan Kabupaten Sragen.
Bapak Raden Iman Dipuro tinggal di daerah pendudukan Belanda (Kota Sragen). Pada tanggal 22 Desember 1948 Bapak Abdussalam sebagai Wakil Kepala Jawatan Kepenghuluan Kabupaten Sragen mengajak keluar dari kota Sragen, mengikuti Pemerintah Kabupaten Sragen yang berkedudukan di Desa Jagan Kecamatan Karangmalang. Alat-alat kantor saat itu dibawa mengungsi, antara lain berupa pesawat telepon, mesin tulis merk Remington, buku-buku dan alat administrasi kantor yang dianggap penting.
Pada tanggal 25 Desember 1948 Jawatan Kepenghuluan Kabupaten Sragen pindah ke Desa Karangtalun Kecamatan Karangmalang. Pada tanggal 16 Januari 1949 pindah ke Desa Plasan Kecamatan Sidoarjo. Pada bulan Januari 1949 di Kecamatan Tanon diadakan Konferensi Pamong Projo dengan mengundang Jawatan-jawatan yang dihadiri Bapak Residen Surakarta (Bapak Sudiro). Pegawai Jawatan Kepenghuluan Sragen Bapak Somdani hadir pada acara tersebut. Adapun hasil konferensi memerintahkan supaya Jawatan-jawatan kembali aktif untuk mewujudkan defacto pemerintah.
Pada tanggal 14 Pebruari 1949 Bapak Abdussalam pindah ke Desa Suwatu Kecamatan Tanon, mengikuti saran Bapak Somdani karena Desa Suwatu merupakan daerah umat Islam yang dianggap aman. Pada tanggal 20 Pebruari 1949 Jawatan kepenghuluan Kabupaten Sragen digabungkan kepada Pemerintah Militer Kabupaten (PMKB) Sragen dan supaya membuat Program kerja.
Pada tanggal 13 Maret 1949 Jawatan kepenghuluan Kabupaten Sragen mengadakan konferensi termasuk penghulu Naib seluruh Kabupaten Sragen bertempat di Rumah Bapak Kyai Ngambar, Modin Desa Suwatu Kecamatan Tanon. Di dalam situasi yang sangat mengerikan dan mencemaskan, konferensi dapat berjalan dengan lancar dan menghasilkan program kerja, diantaranya : Jawatan kepenghuluan disesuaikan dengan Pemerintah Militer Kabupaten Sragen dan dibagi menjadi 2 yaitu Utara Bengawan dan Selatan Bengawan, dengan rincian sebagai berikut :
1. Jawatan Kepenghuluan Utara Bengawan dipimpin oleh Bapak Abdussalam dibantu oleh Bapak Somdani Kepala Imam sebagai Wakil Jawatan Kepenghuluan.
2. Jawatan Kepenghuluan Selatan Bengawan dipimpin oleh Bapak Diryomulyono Penghulu Naib Kecamatan Karangmalang, di bawah pengawasan Jawatan Kepenghuluan Utara Bengawan.
3. Pengadilan Agama dijalankan oleh Bapak Abdussalam dengan mendapat pengesahan dari PMKB Sragen.
Pada tanggal 1 September 1949 Bapak Abdussalam menerima besluit darurat dari Jawatan Agama Surakarta untuk tetap menjadi Kepala Jawatan Kepenghuluan Kabupaten Sragen. Setelah gencatan senjata Bapak Abdussalam tetap sebagai Kepala Jawatan Kepenghuluan Kabupaten Sragen sedang Bapak Diryomulyono sebagai Ketua Pengadilan Agama Kabupaten Sragen. Bapak Somdani sebagai Wakil Jawatan Kepenghuluan (Ajung Penghulu).
Pada Tanggal 6 Desember 1949 diadakan konferensi dan silaturahmi yang dihadiri oleh Kepala Jawatan Agama Surakarta (Bapak Kyai Hadi Siswoyo), Bupati Sragen (Bapak Mangun Negoro), jawatan-jawatan, penghulu naib dan bong supit seluruh Kabupaten Sragen.
Adapun urutan Kepala Jawatan Kepenghuluan, Kepala KUA Kabupaten (KUADU), Kepala Perwakilan, Kepala Kantor Departemen Agama dan Kepala Kantor Kementerian Agama Kabupaten Sragen (Tahun 1946-Sekarang) adalah :
1. KH. Abdussalam (1946 – 1953) dengan nama Jawatan Kepenghuluan Sragen.
2. Kyai Machalli (1953 – 1955) dengan nama Jawatan Kepenghuluan Sragen.
3. Slamet Djalal Suyuti (1955 – 1969) dengan nama Perwakilan Kantor Urusan Agama.
4. H. Ismi Dirjo Miharjo (1969 -1972) dengan nama Kantor Perwakilan Departemen Agama.Drs.H. Suhaimi (tahun 1972/hanya beberapa bulan)
5. H. Asmuni Fattach (1972 – 1982), dengan nama Kepala Kantor Departemen Agama
6. Drs. H. Kamil (1982 -1992)
7. Drs. H. MA. Djamil (1993 – 1998)
8. Drs. H. Daldiri (Plt. tahun 1998)
9. Drs. H. Mulyono (1998 – 2001)
10. Drs. H. Daldiri (Plt. Tahun 2001 – 2003)
11. Drs. H. Busyroni (2003 – 2004)
12. Drs. H. Hasan Kamal (Plt. Tahun 2004 – 2005)
13. Drs. H. Soeparyo, M.Ag (10 Juni 2005 – 30 Juni 2008)
14. Drs. H. Muslim Umar, M.Ag (27 Agustus 2008- 8 Agustus 2010)
15. Drs. H. Muh. Saidun, M.Ag (9 Agustus 2010-9 Desember 2014) dengan sebutan Kepala Kantor Kementerian Agama Kab. Sragen.
16. Drs. H. Ahmad Nasirin, M.Ag (9 Desember 2014-Sekarang)