Madrasah Aliyah dirintis oleh Bapak Drs.Umar Mahmud bersama beberapa tokoh masyarakat dan agama. Awalnya digagas oleh beliau yang dahulu masih menjabat Kepala MTsN Bandar Jaya untuk mengakomodir banyaknya siswa/i Madrasah Tsanawiyah Bandar Jaya. Bersama beberapa tokoh masyarakat, tokoh agama, dan kepala desa masa itu maka Kepala Madrasah Aliyah pertama adalah Bpk.Drs.Zainal Arifin dengan dukungan majelis guru MTsN Bandar Jaya. Tanggal 25 Januari 1999 berdirilah Madrasah Aliyah Swasta Bandar Jaya.

Lahan dan gedung pendidikan adalah sumbangan para dermawan, donatur masyarakat setempat, dan bantuan dari Departemen Agama (dalam hal ini Kantor Wilayah Departemen Agama Provinsi Jambi). Seiiring semakin banyaknya jumlah siswa dalam pendaftaran dan desakan beberapa pihak maka atas bantuan swadaya masyarakat aset tanah dan gedung semi permanen mengalami peningkatan jumlah yang cukup signifikan. Atas dasar pertimbangan-pertimbangan berikut:

• Banyaknya jumlah penduduk di Kec. Rantau Rasau dan sekitarnya
• Heterogenitas suku dan budaya penduduk Kec.Rantau Rasau
• Banyaknya jumlah peminat akan pendidikan berbasis agama Islam

maka perubahan swasta menjadi Negeri merupakan kebutuhan yang tak terhindarkan; apalagi di daerah Kec.Rantau Rasau telah eksis Sekolah Menengah Atas (SMA) Negeri yang mulai membatasi jumlah siswa yang terus meningkat setiap tahunnya. Keberagaman jenis pendidikan akan memudahkan masyarakat dalam menjatuhkan pilihan bagi anaknya.  

Berdasarkan Keputusan Menteri Agama Republik Indonesia No.558 tahun 2003 maka status swasta berubah menjadi negeri dengan nama  Madrasah Aliyah Negeri (MAN) Bandar Jaya yang diresmikan oleh Bpk.Zulkifli Nurdin (Gubernur Jambi) tanggal 24 April 2004.

Seiring berjalannya waktu banyak perubahan fisik Madrasah mengikuti bertambahnya prestasi akademik maupun prestasi non-akademik bidang olahraga, pramuka, dan seni di event tingkat kecamatan, kabupaten, dan provinsi. Bahkan banyak siswa dari MAN Bandar Jaya sudah dapat masuk PTN Umum dan Islam negeri.