Sejarah adalah rangkaian peristiwa yang terjadi di masa lampau yang disusun secara urut berdasarkan waktu. Sehingga kita juga bisa menciptakan sejarah, misalnya mencatat peristiwa sejak lahir dari anak – anak tumbuh menjadi besar menjadi remaja, dewasa, kemudian meninggal atau yang sering di kenal dengan biografi. Kenapa kita perlu mempelajari sejarah ? agar kita tidak kehilangan jati diri kita masing-masing. Kemudian kejadian-kejadian yang baik tentu akan menjadi pelajaran bagi kita semua, demikian pula kejadian-kejadian buruk yang pernah terjadi menjadi pembelajaran pula agar di hari ini dan hari mendatang tidak terjadi kembali. Selanjutnya ketika kita belajar sejarah, sudah barang tentu kita juga belajar tokoh. Maka dengan belajar sejarah diharapkan kita dapat menteladani para tokoh-tokoh tersebut untuk kita tiru yang baik di masa sekarang dan masa yang akan datang.
Selanjutnya kami akan menyampaikan terkait dengan sejarah berdirinya MTs Negeri 3 Banjarnegara dimulai sejak awal Tahun 1969 dimana pada waktu itu ada suatu ide atau gagasan untuk mendirikan sebuah Madrasah Tsanawiyah oleh Kepala Dinas Pendidikan Kabupaten Banjarnegara yang pada saat itu di jabat oleh Bpk. Kharisun Hasim beliau berkeinginan agar di Kabupaten Banjarnegara khususnya di wilayah Rakit memiliki lembaga pendidikan bernuansa islami. Akhirnya berdirilah MTs Persiapan Negeri pada Tahun 1969 dengan Kepala Madrasah yang pertama yaitu Bpk. Hudani hingga Tahun 1971. Setelah itu digantikan oleh Bpk. Slamet Wahyudi hingga Tahun 1974. MTs Persiapan Negeri pada Tahun 1974 s.d 1975 di pimpin oleh Bpk. Toha Ahmadi, B.A. dimana pada waktu itu terjadi perubahan nama, dari MTs Persiapan Negeri menjadi PGA Negeri 4 Tahun GUPI Rakit, setelah terjadi perubahan nama menjadi PGA Negeri 4 Tahun GUPI Rakit ternyata animo peserta didiknya kurang baik sehingga pada tahun 1976 diubah lagi menjadi MTs GUPI Rakit yang di pimpin oleh Bpk. Samiun. Pada waktu itu MTs GUPI Rakit mendapatkan tanah wakaf dari para guru agama di wilayah Kec. Rakit sehingga dibangunlah 3 ruang kelas baru yang letaknya sekarang di depan Kantor BRI Kec. Rakit yang kebetulan sekarang digunakan sebagai Madrasah Aliyah GUPI Rakit. Selanjutnya terjadi perubahan kepepimpinan Madrasah dari Tahun 1980 sampai Tahun 1984 MTs GUPI Rakit di kepalai oleh Bpk. Khawam. Pada Tahun 1984 terjadi perubahan nama dari MTs GUPI Rakit menjadi MTS Filial Banjarnegara di Rakit sekaligus pergantian kepala yaitu dijabat oleh Drs. H. Taufiqurrahman. Pada Tahun 1987 sampai 1992 MTs Filial Banjarnegara di Rakit di jabat oleh Bpk. Khawam. Kemudian pada Tahun 1993 terjadi perubahan nama kembali dari MTs Filial Banjarnegara di Rakit menjadi MTs Negeri Rakit berdasarkan Surat Keputusan Mentri Agama Republik Indonesia Nomor 224 Tahun 1993 Tanggal 25 Oktober Tahun 1993 yang selanjutnya Kepala Madrasah di Jabat oleh Bapak H. Sunaryo, B.A. setelah terjadi perubahan nama menjadi MTs Negeri Rakit mengalami perkembangan yang signifikan dengan banyaknya siswa yang masuk ke MTs Negeri Rakit ditambah lagi dengan mendapatkan paket gedung 6 local untuk ruang kelas yag sekarang kita tempati ini. Kemudian perjalan Mts Negeri Rakit pada Tahun 1998 sampai Tahun 2005 kepala madrasahnya di jabat oleh Drs. Sukarto pada saat itulah di bangun ruang guru, ruang Tata Usaha, ruang Masjid dan sebagainya. kemudian pada tahun 2005 sampai Tahun 2007 kepala Madrasah di jabat oleh Drs. Mahmuroji, M.Pd pada saat itulah dibangun perpustakaan dan pagar keliling.
MTs Negeri Rakit terus mengalami perkembangan dari Tahun 2007 sampai Tahun 2011 yang pada waktu itu di kepalai oleh Drs. Budiyanto, M.Pd pada masa ini terjadi penambahan ruang kelas. Kemudian pada tahun 2011 sampai Tahun 2012 terjadi perubahan kepala madrasah dari bapak Drs. Budiyanto, M.Pd kepada Bapak Prihantoro Ahmad, S.Pd. kemudian dari Taun 2012 sampai Tahun 2015 kepala madrasah di gantikan oleh Rido Pramono, S.Ag., M.M. kemudian pada Tahun 2015 terjadi pergantian kepemimpinan kepala madrasah dari Rido Pramono, S.Ag., M.M kepada Drs. H. Yatiman, M.Pd.I, H. Muh. Sidik, MA, Sidik Wibowo Akhmad, S.Pd., M.Ag, Natir, M.Pd sampai sekarang. Perlu diketahui bersama bahwa pada Tahun 2017 berdasarkan Surat Keputusan Menteri Agama Republik Indonesia Nomor 810 Tahun 2017 terjadi perubahan nomenklatur nama madrasah yang dahulunya MTs N 1 Rakit menjadi MTs Negeri 3 Banjarnegara kita berharap dengan perubahan nama menjadi MTs Negeri 3 Banjarnegara ini perkembangan madrasah ini terus bagus animo masyarakat terus banyak dan mutu pendidikan semakin hari semakin meningkat, sehingga harapan kita semua madrasah ini menjadi madrasah pelopor dan menjadi madrasah rujukan di kabupaten Banjarnegara.