Tahun 1962

Institut Agama Islam Negeri (IAIN) Padangsidimpuan adalah satu-satunya Perguruan Tinggi Negeri di wilayah pantai barat Sumatera Utara. Secara historis, Institut Agama Islam Negeri (IAIN) Padangsidimpuan memiliki Perguruan akar sejarah dengan Fakultas Tarbiyah  Universitas Nahdlatul Ulama Sumatera Utara (UNUSU) Padangsidimpuan. Pada awalnya UNUSU merupakan perkembangan lanjutan dari Perguruan Tinggi Nahdlatul Ulama (PERTINU) yang didirikan pada tahun 1962. Yang pada saat itu hanya memiliki satu Fakultas Syariah.

Tahun 1963-1965

Setahun kemudian yaitu 1963 baru Fakultas Tarbiyah secara resmi dibuka dan menerima mahasiswa pertama sejumlah 11 orang. Pada tahun 1965 PERTINU menambah satu lagi fakultasnya, yakni Fakultas Ushuluddin. Setelah adanya tiga fakultas dan didorong keinginan hendak membuka fakultas-fakultas umum seperti Fakultas Hukum dan Fakultas Pertanian, maka timbullah ide untuk memperluas PERTINU menjadi Universitas Nahdlatul Ulama Sumatera Utara (UNUSU). Pada saat itulah terjadi perubahan Yayasan PERTINU menjadi Yayasan UNUSU dan menetapkan Syekh Ali Hasan Ahmad sebagai Rektor.

Tahun 1965-1967

Melihat pesatnya perkembangan IAIN di daerah-daerah lain, maka pada tahun 1967  Yayasan UNUSU mengajukan permohonan kepada Menteri Agama RI, agar Fakultas Tarbiyah UNUSU dapat dirubah statusnya menjadi negeri, dalam hal ini menjadi Fakultas Tarbiyah IAIN Imam Bonjol Padang. Selanjutnya Yayasan UNUSU mengajukan bentuk panitia perubahan status tersebut yang kemudian dikukuhkan dengan Surat Keputusan Menteri Agama Nomor 123 Tahun 1967 tanggal 5 Oktober 1967. Susunan panitia tersebut adalah Ketua Umum: Marahamat Siregar, Ketua I: Syekh Dja’far A. Wahab MA, Ketua II: H.M. Yusuf Tk. Imom Hasibuan, Sekretaris I: A. Siregar Gelar Sutan Mula Sontang, Sekretaris II: Kalasun Nasution dan Bendahara: Hariro Siregar.

Tahun 1967-1968

Sebagai kelanjutan dari usaha perubahan status tersebut pada hari Sabtu tanggal 1 Juni 1968, Menteri Agama RI K.H. Moch. Dahlan dengan Surat Keputusannya Nomor 110 Tahun 1968  Fakultas Tarbiyah UNUSU menengerikan Fakultas Tarbiyah UNUSU Padangsidimpuan  menjadi  Fakultas Tarbiyah Institut Agama Islam Negeri (lAIN) Cabang Imam Bonjol Padang Sumatera Barat dengan mengambil tempat di Gedung Nasional Padangsidimpuan. Syekh Ali Hasan Ahmad ditunjuk oleh Menteri Agama untuk menduduki jabatan Dekan Fakultas Tarbiyah tersebut.

Tahun 1968-1973

Setelah 5 tahun berlalu, sejalan dengan didirikannya lAIN Sumatera Utara Medan pada  tahun 1973 berdasarkan Surat Keputusan Menteri Agama RI Nomor 97 Tahun 1973 tanggal 1 Nopember 1973 tentang peresmian IAIN Sumatera Utara, maka Fakultas Tarbiyah IAIN Cabang Imam Bonjol Padang, Sumatera Barat menjadi  Fakultas  Tarbiyah lAIN Sumatera Utara di  Padangsidimpuan.

Dalam perjalanan sejarahnya Fakultas Tarbiyah ini lama tidak memiliki gedung sendiri sehingga perkuliahan dilakukan dengan cara pinjam pakai di gedung SMP Negeri 2 Padangsidimpuan. Sedangkan kegiatan administrasi perkantoran dilaksanakan di rumah Bapak Syekh Ali Hasan Ahmad. Hal ini berlangsung sampai tahun 1972. Pada tahun 1973 Fakultas Tarbiyah ini mendapat bantuan tanah seluas 700 m² dari Pemda Tk. II Tapanuli Selatan dan bangunan gedung kuliah berlantai satu seluas 168 m² yang terdiri dari tiga ruang kelas masing-masing berukuran 7 x 8 m dengan keadaan semi permanen di Jalan Ade Irma Suryani Nasution No. 4-A Padangsidimpuan. Dengan keberadaan gedung tersebut, maka aktivitas perkuliahan dipindahkan ke gedung tersebut sampai pada tahun 1977 dan aktivitas administrasi perkantoran masih tetap di rumah Bapak Syekh Ali Hasan Ahmad.

Tahun 1978

Pada tahun 1978 Fakultas Tarbiyah IAIN Sumatera Utara Cabang Padangsidimpuan mendapat bantuan dana dari Pemerintah Daerah Tk. I Sumatera Utara sebesar Rp. 17. 500,000- (tujuh belas juta lima ratus ribu rupiah) untuk pembangunan gedung perkuliahan dan ruangan kantor. Bantuan lain adalah tanah seluas 266 m² dari Pemda Tk. II Tapanuli Selatan. Dengan adanya gedung baru tersebut, maka aktifitas administrasi pun akhirnya dilaksanakan di gedung tersebut.

Tahun 1984-1986

Pada tahun 1984 Pemda Tk. II Tapanuli Selatan kembali memberi bantuan tanah bekas lapangan terbang zaman Belanda  seluas 3, 2 ha di Desa Sihitang yang sampai sekarang menjadi kampus IAIN  Padangsidimpuan. Setelah secara resmi tanah tersebut diserahkan kepada Fakultas Tarbiyah IAIN Sumatera Utara Cabang Padangsidimpuan, barulah pembangunan gedung yang terdiri dari enam kelas dibangun lengkap dengan sarana dan prasarana yang dibutuhkan. Gedung ini mulai digunakan pada semester genap tahun akademik 1984 – 1985. Namun demikian, sebagian mahasiswa masih melakukan perkuliahan di gedung yang berada di jalan Ade Irma Suryani Nasution Padangsidimpuan. Barulah pada tahun akademik berikutnya yakni 1985 – 1986 semua kegiatan administrasi perkantoran dan perpustakaan dipindahkan ke kampus Sihitang. Mengingat ruangan yang tersedia hanya enam, terpaksa satu ruangan untuk kantor, satu ruangan untuk perpustakaan dan ruang sidang munaqasyah, dan empat ruangan untuk perkuliahan ditambah dengan ruangan yang berada di kampus jalan Ade Irma Suryani Nasution.

Tahun 1997 – 2003

Selama lebih kurang 24 tahun  berjalan, kemudian Fakultas Tarbiyah IAIN Sumatera Utara Cabang Padangsidimpuan berubah lagi menjadi STAIN Padangsidimpuan berdasarkan Keputusan Presiden  Republik Indonesia Nomor 11 tahun 1997 tanggal  21 Maret 1997 dan Keputusan Menteri Agama  RI Nomor 300 tahun 1997 dan No. 504 tahun 2003,  tentang Pendirian STAIN dikeluarkan, maka  Fakultas Tarbiyah lAIN Sumatera Utara di Padangsidimpuan diubah statusnya menjadi  STAIN Padangsidimpuan yang otonom dan  berhak mengasuh beberapa jurusan sebagaimana  layaknya IAIN di seluruh Indonesia.

Tahun 2014

Pada tahun 2012 Ketua STAIN Padangsidimpuan Dr. H. Ibrahim Siregar, MCL, memulai mengukir sejarah untuk alih status STAIN Padangsidimpuan menjadi IAIN Padangsidimpuan, tim solid dan bertekad untuk mewujudkan cita-cita itu, maka akhirnya membuahkan hasil yang gemilang.  Maka turunlah Peraturan Presiden Republik Indonesia Nomor 52 Tahun 2013 tentang Perubahan Status Sekolah Tinggi Agama Islam Negeri Padangsidimpuan Menjadi Institut Agama Islam Negeri Padangsidimpuan,Peraturan Menteri Agama Republik Indonesia Nomor 93 Tahun 2013 tentang Organisasi dan Tata Kerja Institut Agama Islam Negeri Padangsidimpuan dan selanjutnya Keputusan Menteri Agama Republik Indonesia Nomor B.II/3/9978 tentang Penetapan Rektor Institut Agama Islam Negeri Padangsidimpuan pada tangggal 6  Januari 2014 STAIN Padangsidimpuan beralih secara resmi menjadi IAIN Padangsidimpuan, yang diresmikan oleh Menteri Agama RI Surya Dharma Ali, dan dilantik sebagai Rektor pertamanya adalah Dr. H. Ibrahim Siregar, MCL.

Dengan demikian, IAIN Padangsidimpuan memiliki status, fungsi dan peran yang sama dengan perguruan tinggi yang lain dan dapat dijadikan alternatif utama bagi siapa saja yang ingin cemerlang masa depan melalui Perguruan Tinggi Negeri yang mengkhususkan diri dalam Islamic Studies.