Sebagai perguruan tinggi pada umumnya, IAIN Sumatera Utara juga penyelenggara tri dharma perguruan tinggi, yaitu, pendidikan dan pengajaran, penelitian, dan pengabdian kepada masyarakat.
Penyelenggara pendidikan dan pengajaran adalah Fakultas-fakultas dan Program Pascasarjana IAIN Sumatera Utara, yang berkedudukan sebagai unit pelaksana akademis. Selain itu masih ada 2 (dua) unit pelaksana akademis lainnya yang secara spesifik melaksanakan penelitian dan pengabdian kepada masyarakat, yaitu Pusat Penelitian (Puslit) dan Pusat Pengabdian kepada Masyarakat (PPM), yang secara ringkas dapat dikemukakan sebagai berikut:
1. Pusat Penelitian
Pusat Penelitian IAIN Sumatera Utara merupakan salah satu unit pelaksana teknis yang tak dapat dipisahkan dari keberadaan IAIN Sumatera Utara. Tugas utama Pusat Penelitian (PUSLIT) tertera dalam konsep Tri Dharma Perguruan Tinggi yaitu bidang penelitian.
Sebagai unit kerja di bawah naungan IAIN, dalam program penelitiannya PUSLIT IAIN Sumatera Utara mengacu kepada empat bidang keilmuan yaitu: Kewahyuan (seperti Qur`an & Hadits), Pemikiran (seperti Filsafat), Terapan (seperti Pancasila) dan Instrumen (seperti Bahasa Inggris).
Adapun fungsi Pusat Penelitian IAIN Sumatera Utara meliputi: (a) pengembangan institusi, yaitu mengembangkan fungsi intern komponen-komponen kelembagaan yang ada di IAIN Sumatera, (b) Inovasi dan pengembangan ilmu pengetahuan, teknologi dan seni (ipteks); melalui penelitian-penelitian yang dilakukan PUSLIT berfungsi untuk mengembangkan Ipteks dalam ruang lingkupnya, dan merumuskan hipotesis, pemikiran dan teori baru sebagai kontribusi terhadap perkembangan Ipteks pada masa kini dan mendatang, (c) Problem solving; melalui publikasi ilmiahnya, PUSLIT berfungsi untuk mencari dan menawarkan solusi terhadap permasalahan yang muncul. Permasalahan ini bisa bersifat akademis yaitu berkaitan dengan dunia pendidikan seperti sistem dan kurikulum pendidikan, dan juga bersifat kemasyarakatan seperti masalah agama, sosial, budaya, dan ekonomi, (d) menjalin kerjasama dengan instansi lain; dalam melaksanakan program-program penelitiannya PUSLIT berupaya untuk memperluas jaringan kerjasama dengan lembaga lain yang peduli dengan pengembangan Ipteks dan kesejahteraan masyarakat. Lembaga tersebut bisa berupa instansi pemerintah seperti Perguruan Tinggi baik di dalam maupun di luar negeri, PEMDA, LIPI, dan bisa juga berupa lembaga swasta seperti perusahaan, yayasan, dan LSM.
Sejak tahun 2004 sampai sekarang, Kepala Pusat Penelitian IAIN Sumatera Utara dipercayakan kepada Prof. Dr. H. Abbas Pulungan, sesuai dengan Surat Keputusan Rektor IAIN Sumatera Utara Nomor: IN.14/B.1a/KP.07/89, tanggal 05 April 2004.
Berbagai aktivitas yang dilaksanakan oleh PUSLIT, meliputi:
a. Melakukan penelitian-penelitian ilmiah yang berkaitan dengan lingkup penelitian yang disebutkan terdahulu.Penelitian ini dapat dibedakan dalam beberapa jenis :
1) Dilihat dari sifatnya:
a) Penelitian kualitatif, yaitu penelitian yang model analisisnya secara umum tidak memakai model analisis statistik.
b) Penelitian kuantitatif, yaitu penelitian yang model analisisnya secara umum memakai analisis statistik.
2) Dilihat dari aspek kegunaannya:
a) Penelitian murni, artinya penelitian yang ditujukan untuk mengembangkan suatu teori atau disiplin ilmu.
b) Penelitian terapan, artinya penelitian yang ditujukan untuk mengungkapkan fakta yang hasilnya akan diterapkan sebagai pemecahan masalah tertentu.
3) Dilihat dari aspek pelaksanaannya:
a) Penelitian individual, yaitu penelitian yang dilakukan oleh seorang peneliti mandiri dengan atau tanpa konsultan peneliti, atau yang dilakukan oleh seorang peneliti pembantu yang harus didampingi oleh seorang konsultan peneliti.
b) Penelitian kelompok, yaitu penelitian yang dilakukan oleh satu tim peneliti yang terdiri dari: Seorang ketua peneliti yang berkualifikasi sebagai peneliti mandiri, maksimal 5 orang anggota peneliti baik peneliti mandiri atau peneliti pembantu, dan seorang konsultan peneliti jika diperlukan.
b. Melakukan program pelatihan/workshop penelitian bagi mahasiswa dan tenaga edukatif di dalam dan di luar lingkungan IAIN Sumatera Utara. Pada tingkat pemula, pelatihan ini dimaksudkan untuk memberikan pedoman dasar penelitian ilmiah, dan pada tingkat lanjutan ditujukan untuk meningkatkan kualitas tenaga peneliti dengan berbagai pendekatan yang berkembang.
c. Mempublikasikan hasil-hasil penelitian melalui media-media ilmiah. Saat ini PUSLIT IAIN Sumatera Utara mengelola dua media ilmiah;
1) Jurnal Penelitian "MEDAN AGAMA"; Jurnal ilmiah yang diterbitkan sejak tahun 2001 ini terbit 2 kali setahun (Juli dan Desember). Karya-karya ilmiah yang dimuat adalah hasil-hasil penelitian terpilih dari para peneliti sosial-keagamaan, baik dari lingkungan IAIN Sumatera Utara maupun dari lembaga lainnya.
2) Website http://www.litagama.org; Website yang diluncurkan sejak tahun 2006 ini terus diupdate setiap saat. Karya-karya ilmiah yang dimuat dalam website ini terdiri atas executive summary laporan-laporan penelitian terpilih, metodologi penelitian, dan karya ilmiah konseptual yang aktual. Selama dua tahun website ini online di dunia maya dan cukup banyak dikunjungi dan dikutip oleh browser dari dalam maupun luar negeri; tidak kurang 100 orang pengunjungnya setiap hari.
d. Melaksanakan evaluasi dan penilaian terhadap pelaksanaan dan laporan-laporan penelitian yang dilakukan oleh para dosen dan peneliti di lingkungan IAIN Sumatera Utara. Maksud pelaksanaan evaluasi dan penilaian di sini adalah;
1) Mengumpulkan informasi-informasi penting yang selanjutnya disampaikan kepada pimpinan IAIN Sumatera Utara, lembaga-lembaga keagamaan, dan Departemen Agama untuk ditindaklanjuti sesuai keperluannya.
2) Mengidentifikasi kelebihan dan kelemahan proses pelaksanaan dan isi laporan-laporan penelitian yang dilaksanakan dosen-dosen IAIN Sumatera Utara. Identifikasi ini dinilai cukup penting sebagai bahan penetapan materi, metode dan strategi kegiatan pelatihan /workshop pada tahun berikutnya.
3) Menetapkan nama-nama peneliti yang layak diberikan penghargaan (award) atas prestasinya melaksanakan penelitian yang bermutu.
e. Melaksanakan kegiatan seminar/diskusi ilmiah dengan melibatkan pakar di bidang penelitian. Materi-materi yang dibahas terbatas pada laporan-laporan penelitian yang berkualitas dan dinilai penting didalami oleh civitas akademik IAIN Sumatera Utara.
f. Menerbitkan buku-buku yang berkenaan dengan penelitian. Jenis buku yang diterbitkan oleh PUSLIT adalah laporan-laporan penelitian terpilih dan metodologi penelitian.
g. Melaksanakan kegiatan kerjasama dengan lembaga-lembaga penelitian perguruan tinggi dan LSM di Sumatera Utara. Bentuk kegiatan yang pernah dilaksanakan adalah sarasehan, penelitian, dan seminar.
2. Pusat Pengabdian kepada Masyarakat (PPM)
Eksistensi IAIN Sumatera Utara sebagai lembaga pendidikan tinggi agama semakin diakui, dan semakin dibutuhkan ketika masyarakat dan pemerintah menyaksikan sendiri bagaimana sepak terjang dan aktivitasnya dalam pembangunan nasional, khususnya dalam bidang kehidupan sosial keagamaan, yang diselenggarakan melalui pengabdian kepada masyarakat.
Pusat Pengabdian kepada Masyarakat (PPM) IAIN Sumatera Utara merupakan unsur pelaksana akademik yang melaksanakan tugas pokok dan fungsi Perguruan Tinggi Agama Islam (Tri Dharma) dalam bidang pengabdian kepada masyarakat yang dipimpin oleh seorang kepala yang bertanggung jawab langsung kepada Rektor. Lembaga ini merupakan koordinator dan/atau pelaksana bagi setiap kegiatan pengabdian kepada masyarakat yang dilaksanakan oleh IAIN Sumatera Utara, sesuai dengan kedudukannya sebagai bagian integral dari sistem Perguruan Tinggi Agama Islam yang memiliki status sejajar dengan pendidikan/pengajaran dan penelitian
Walaupun secara kelembagaan, pelaksanaan berbagai bentuk pengabdian kepada masyarakat di IAIN Sumatera Utara memungkinkan untuk dilaksanakan oleh berbagai unsur pelaksana akademis dan pelaksana teknis, serta unsur sivitas akademika di IAIN Sumatera Utara, namun sesuai dengan kedudukan PPM sebagai unsur pelaksana akademik yang secara spesifik melaksanakan tugas pokok dan fungsi dalam bidang pengabdian kepada masyarakat, maka berbagai kegiatan pengabdian kepada masyarakat tetap berkoordinasi dengan Pusat Pengabdian kepada Masyarakat.
Berbagai kegiatan pengabdian kepada masyarakat pada hakikatnya bertujuan untuk meningkatkan kemampuan sumber daya manusia (SDM) dalam memenuhi kebutuhan masyarakat dan memecahkan problem sosial yang dihadapi masyarakat terutama dalam memenuhi kebutuhan masyarakat dan meningkatkan kesejahteraan sosial sesuai dengan visi, misi, fungsi dan tujuan lAIN melalui penerapan Ipteks, Usaha Jasa dan Industri (UJI) dan pemberdayaan Usaha Kemandirian Masyarakat (UKM).
Sasaran pengabdian kepada masyarakat adalah masyarakat luas baik masyarakat institusi (di dalam kampus) maupun masyarakat di luar institusi (di luar kampus) yang merupakan mitra kerja IAIN Sumatera Utara dalam penerapan Ipteks, usaha jasa dan industri dan pemberdayaan usaha kemandirian masyarakat. Sasaran tersebut meliputi lembaga, komunitas, kelompok dan perorangan, baik unsur pemerintahan dan swasta, masyarakat kawasan industri, agraris, dan budaya, maupun masyarakat perkotaan dan pedesaan.
Bentuk pengabdian kepada masyarakat dapat berupa: (1) pendidikan dan pelatihan, (2) pendampingan, (3) pelayanan kepada masyarakat, (3) pengembangan hasil-hasil penelitian, (4) pengembangan wilayah terpadu, (5) kaji tindak (action research), (6) Kuliah Kerja Nyata (KKN), (7) Praktek Kerja Lapangan Integratif (PKLI), dan (8) Resolusi konflik.
Sesuai dengan pradigma baru pengabdian kepada masyarakat IAIN se Indonesia, berbagai kegiatan yang dilaksanakan melalui program pengabdian kepada masyarakat pada prinsipnya diselenggarakan dalam bentuk pemberdayaan (empowering community), dan tidak lagi bertumpu pada development community, seperti yang sering dilakukan pada masa-masa terdahulu.
Sejak tahun 2006 sampai sekarang, Kepala Pusat Pengabdian kepada Masyarakat IAIN Sumatera Utara dipercayakan kepada Drs. H. Sokon Saragih, M.A. sesuai dengan Surat Keputusan Rektor IAIN Sumatera Utara, Nomor: IN.14/B.1a/KP.07.6/144/2006, tanggal 01 Nopember 2006.
Kelembagaan 
