13 Nisan 1882’de Siirt’te doğdu. Babası ulemâdan Şeyh İbrâhim Efendi, annesi Halime Hanım’dır. Molla Hasan Hatipzâdeler diye tanınan ve birçok âlim ve şeyh yetiştiren bir aileden gelmektedir. Nesebinin Şeyh Abdülkādir-i Geylânî’ye ulaştığı söylenir. Siirt’te mahalle mektebinden sonra rüşdiyede, ayrıca Halefiyye, Rahîmiyye ve Sâlihiyye medreselerinde tahsil gördü. Babası İbrâhim Efendi ve Müderris Hasan Efendi ile Siirt müftüsü ve Millî Meclis âzası Halil Hulki Efendi onun ilk hocalarıdır. Daha sonra Erzurum müftüsü Lutfullah Efendi, Yetim Hoca Efendi ve Taşkesanlı Ziyâeddin Efendi’den ders aldı. Ardından Mısır’a giderek Ezher Üniversitesi’nde yedi yıl İslâmî ilimleri tahsil etti. Bu sırada Türk talebe yurdunda kalan öğrencilere hadis ve fıkıh usulü ile akaid dersleri okuttu. Ayrıca biri Matbaatü’s-saâde olmak üzere iki matbaanın başmusahhihliğinde bulundu. Şevkânî’nin İrşâdü’l-fuḥûl’ü ile (Kahire 1327) Celâleddin es-Süyûtî’nin Ḥüsnü’l-maḳṣıd fî ʿameli’l-mevlid adlı risâlesi onun tashihiyle basılmıştır.
1909 yılında Mısır’dan dönen İsmail Hatip 1916’ya kadar Ma‘mûretülazîz Sultanîsi, bu tarihten 1921’e kadar da Sivas Sultânîsi’nde Arapça muallimliği yaptı. Ayrıca Sivas Dârülhilâfe Medresesi’nde Arapça dersleri verdi ve Osman Paşa Camii hatipliğini üstlendi. 1921-1960 yılları arasında sırasıyla Yaylak (Urfa), Çermik, Gümüşhane, Sivas, Antakya, Eyüp (İstanbul), Konya ve Malatya müftülüklerinde bulundu.
İsmail Hatip Erzen hayatının son dönemlerinde hastalanmış, tedavi masraflarını karşılayabilmek için kütüphanesini Elazığ’da satışa çıkarmış ve 1968 yılında Ankara’da vefat etmiştir.
Şâfiî mezhebinden olan İsmail Erzen Selef yolunu takibe çalışmış, dinin bid‘at ve hurafelerden ayıklanması hususunda gayret göstermiştir. Takvâ sahibi, çalışkan ve sert mizaçlı bir âlimdi. Namazların farzlarından önce İhlâs sûresinin okunmasının câiz olmadığı, mevlid okutma masraflarının fakirlere sadaka olarak verilmesinin daha hayırlı olacağı ve Allah’ın huzurunda tevazu maksadıyla baş açık namaz kılmanın müstehap olduğu görüşündeydi. Erzen bu fikirlerinden dolayı itham edilmiş ve hakkında toplu şikâyetlerde bulunulmuştu. Dinî konularda zamanının âlimleriyle yaptığı Türkçe, Arapça manzum ve mensur yazışmalarında dinî bilgisinin yanında mütevazi, ağır başlı ve saygılı oluşu dikkati çeker.
Eserleri. Türkçe, Arapça ve Farsça bilen İsmail Hatip Erzen’in başlıca eserleri şunlardır:
1. Âlem-i İslâm’a Hitap (Sivas 1340). Seksen dokuz beyitlik bir manzume olup son Yunan harbinde düşmanla iş birliği yapan kimseleri yermek gayesiyle yazılmıştır.
2. İslâmî Hakikatler (Malatya 1956). Halil Öztoprak’ın Kur’an’da Hikmet Tarih’te Hakikat adlı kitabının bazı bölümlerine cevaptır.
3. Lâmiyyetü’l-Acem (Ankara 1945). Tuğrâî’nin aynı adlı eserinin Türkçe tercümesidir.
4. Bâtınîlerin ve Karmatîlerin İçyüzü (Ankara 1948). İbn Mâlik el-Hammâdî’nin Keşfü’l-esrâri’l-Bâṭıniyye ve aḫbârü’l-Karâmiṭa adlı eserinin tercümesidir.
Basılmamış eserleri arasında Arapça olarak kaleme aldığı en-Naṣrü’l-muʿavvel fi’l-ʿaṣri’l-evvel ve Milaslı İsmail Hakkı Bey’in yeni yazıya dair el-Ḫaṭṭü’l-cedîd adlı yirmi sayfalık risâlesine reddiye olarak yazdığı el-Ḫaṭṭü’s-sedîd fî naḳdi’l-ḫaṭṭi’l-cedîd adındaki 106 sayfalık risâlesi sayılabilir. Ayrıca Sebîlürreşâd dergisiyle mahallî gazetelerde birçok yazısı çıkmıştır.