Cikal bakal instansi Kementerian Agama di daerah sudah ada sejak zaman dahulu. Contohnya, pada zaman penjajahan Belanda sudah tumbuh instansi kepenghuluan. Penghulu adalah seorang ahli agama Islam yang diangkat oleh pemerintah untuk secara terbatas melaksanakan ketentuan agama di tengah masyarakat. Jabatan penghulu, khususnya di Jawa, mengenal tingkatan yang mengikuti pengaturan kewilayahan pemerintah Hindia Belanda. Penghulu Kepala, misalnya, ada di tingkat Kabupaten,di bawahnya ada Penghulu Distrik dan di tingkat lebih bawah lagi ada Penghulu Onderdistrik. Pada masa penjajahan Jepang, Pemerintahan Balatentara Jepang mendirikan Shumubu (Kantor Urusan Agama) yang menjadi bagian dari Gunsaikanbu (Gubernur), sedangkan di daerah-daerah didirikan Shumuka (Kantor Agama Daerah) sebagai bagian dari Pemerintah Karesidenan (Shu).
Kementerian Agama Republik Indonesia berdiri pada tanggal 03 Januari 1946. Pendirian itu berdasarkan Penetapan Pemerintah Nomor1/SD tanggal 03 Januari 1946, yang diantaranya berbunyi : Presiden Republik Indonesia mengingat usul Perdana Menteri dan Badan Pekerja Komite Nasional Indonesia Pusat, memutuskan : “Mengadakan Kementerian Agama”. Menteri Agama RI yang pertama dijabat oleh H. Rasyidi, BA.Sejak saat itu dimulailah pembentukan dan pembenahan instansi Kementerian Agama di daerah-daerah. Pembenahan tersebut antara lain dengan dikeluarkannya Maklumat Kementerian Agama nomor 2 tanggal 23 April 1946 yang antara lain menetapkan perubahan SHUMUKA menjadi JawatanAgama Daerah di bawah KementerianAgama.
Sebelum berdirinya Kantor Kementerian Agama Kabupaten Batang, di wilayah Kabupaten Batang sudah terdapat Kantor Urusan Agama di tingkat Kecamatan. Juga sudah terdapat Guru-Guru Agama Islam baik yang mengajar di sekolah maupun madrasah dan juga lnspeksi PendidikanAgama. Namun karena Kabupaten Batang belum berdiri semua institusi itu berada di bawah Kantor Kementerian Agama Kabupaten Pekalongan (saat itu disebut Dinas Kantor Urusan Agama Kabupaten/Perwakilan Departemen Agama Kabupaten). Pemerintah Kabupaten Daerah Tingkat II Batang terbentuk berdasarkan Undang-undang Nomor 9 Tahun 1965, yang dimuat dalam Lembaran Negara Nomor 52, tanggal 14 Juni 1965 dan lnstruksi Menteri Dalam Negeri RI Nomor20Tahun 1965, tanggal 14Juli 1965.
Tanggal 8 April 1966, bertepatan hari Jumat Kliwon, yaitu hari yang dianggap penuh berkah bagi masyarakat tradisional Batang, dengan mengambil tempat di bekas Kanjengan Batang lama (rumah dinas yang sekaligus kantor para Bupati Batang lama) dilaksanakan peresmian pembentukan Daerah Tingkat II Batang.
Pada tahun 1968 Dinas Kantor Urusan Agama Kabupaten Batang berdiri. Disebut juga Perwakilan Kantor Departemen Agama Kabupaten Batang. Terdapat 13 KUA Kecamatan, walaupun wilayah Pemkab Batang terdiri dari 12 Kecamatan. Dua KUA dalam satu wilayah kecamatan yaitu KUA Kecamatan Tulis I dan KUA Kecamatan Tulis II. Adapun guru agama berjumlah sekitar 96 orang. Jumlah guru agama itu meningkat menjadi sekitar 500 orang dikarenakan adanya kebijaksanaan untuk mengangkat guru-guru agama melewati “Ujian Guru Agama” (UGA).
Saat berdirinya tersebut, Kepala dijabat oleh Abdul Rachman dan Sekretarisnya (sekarang Kasubbag TU) bernama Macha Ii. Kantornya berada di kompleks Masjid Agung Darul Muttaqin Kabupaten Batang (Alun-alun Batang) bagian depan, dengan alamat JI. Pemuda no 114 Batang. Sebelumnya, tempat ini adalah Kantor Urusan Agama Kecamatan Batang. Saat ini bangunan kantor tersebut sudah tidak ada lagi. Nama jalan itu pun berubah menjadi JI. Ahmad Yani. Di sampingnya, terpisah oleh gang, adalah kantor lnspeksi Pendidikan Agama yang diperoleh sebelum Kantor Kementerian Agama Kab. Batang berdiri lewat swadaya guru-guru agama. Sekarang, bangunan ini digunakan untuk rumah dinas.
Pada tahun 1980-an, Kantor Kementerian Agama Kabupaten Batang mendapatkan hibah tanah dari Pemda TK.11 Kab. Batang, yang berlokasi di Kelurahan Watesalit. Kemudian, mulailah dibangun kantor baru yang ditempati sampai sekarang. Tercatat, kantor tersebut mulai ditempati tahun 1981 sampai sekarang.
Setelah kepemimpinan Abdul Rachman, Kepala Kantor KementerianAgama Kabupaten Batang (dengan berbagi perubahan namanya) berturut-turut dijabat oleh :
1. Drs. H.Ali Muachor(1972-1981)
2. Drs. lskandar(1981-1988)
3. Drs. H. Sukindar(1988-1992)
4. Drs. H. Moch.Amin Hambali (1992-1993)
5. Drs. H. Zubaidah Oimyati (1994-1997)
6. H. Shomadun, BA(1998-2000)
7. Drs. H. Rosjidi (2001-2002)
8. Drs. H. Machsun Chozin {2002-2004)
9. Drs. H. RasiminAbd.Aziz, M.Ag (2005-2009) (Diolah dari berbagai sumber)