06.05.1904 tarihinde Selanik Vilayeti’nin Petriç Kasabası’nda doğdu. Babası Petriç Müftüsü İbrahim Efendi’dir. Dört yaşında babasını, dokuz yaşında annesini kaybetti. İlkokula memleketinde başlamış, 1912 yılında çıkan Balkan Harbi sebebiyle önce İstanbul’a, sonra Amasya’ya yerleşerek Pendelli İlkokulu’na devam etmiştir. Bir sene sonra da Vize-Saray Kasabası’na yerleşerek İlkokulu burada bitirmiştir. 1924 yılında Tıbbiye’ye yazılmış; ancak maddi imkansızlıklar sebebiyle İlahiyat Fakültesine geçmiş ve buradan 1927 yılında mezun olmuştur. İlahiyat tahsili sırasında Süleymaniye Kütüphanesi’nde açılan kursa devam etmiş ve çeşitli zevattan dersler almış; mezuniyetini müteakip Fatih Millet Kütüphanesi, Pertev Paşa Kısmı’na tayin edilerek 10.08.1927 tarihinde bu görevine başlamıştır. Süleymaniye Kütüphanesi’ndeki hizmeti ile İstiklal Lisesi’nde Türkçe Hocalığı devam ederken bir yandan da Felsefe Fakültesi’nin İhtisas Bölümüne kaydolmuştur. 1932 yılında askerlik görevini bitirmiş ve eski vazifesine tekrar başlamış, ayrıca Hayriye Lisesi Edebiyat Hocalığı’na tayin edilmiştir. Üç sene bu görevde kaldıktan sonra 1935 yılında Vefa Lisesi Türkçe Hocalığı’na başlamış ve ayrıca Murat Molla Kütüphanesi’nde de görev yapmıştır. 1937 yılında eşi Hürmüz hanımı kaybetmesi üzerine 1940 yılında Kevser Hanımla evlenmiştir.
1941 yılında çıkan İkinci Cihan Harbi sebebiyle yeniden askere alınmış ve 1943 yılında terhis olduktan sonra Süleymaniye Kütüphanesi Tasnif Heyeti’ne Tayin edilmiş ve bu sırada Zeyrek Ortaokulu’nda Türkçe dersleri okutmuştur. Ayrıca üstadı Hasib Efendi’nin arzusu üzerine Şehzade Camii’nde, Cuma günleri öğleden önce vaaz etmiştir. Bilahare Bayezid, Aksaray Pertevniyal Valide Sultan, Fatih camilerinde de vaaz ve nasihate devam etmiştir. 1948 yılında Kız Öğretmen Okulu’nda Din Dersleri Hocalığına başlamış ve ders takrirlerini “Din Dersleri” adı altında toplayarak 1957 yılında neşretmiştir.
1950 yılında İstanbul Müftülüğü Vaiz ve Hademe-i Hayrat Murakıbı oldu. Bilahare İstanbul İhtisas Vaizliğine tayin edildi. 1963-1968 yılları arasında Fatih Camii’nde fahri Hatip’lik yaptı ve ve bu cami minberinden irad ettiği hutbe metinlerini “İrşadül Müminin ila Fezailid-Din” adıyla neşretti.
Evli ve altı çocuk sahibi bulunan, Arapça, Farsça ve Fransızca bilen, 30.11.1972 tarihinde İstanbul Müftüsü olan Abdurrahman Şeref Güzelyazıcı, bu görevde iken 15.05.1978 tarihinde vefat etmiş olup, Fatih Camii’nde kılınan cenaze namazından sonra Edirnekapı-sakızağacı Mezarlığı’ndaki Hasib Efendi mezarının yakınına defnedilmiştir.