10.03.1959 da Trabzon-Of İlçesi Yazlık Köyünde (Baba; Mehmet KÜÇÜK, Anne; Ayşe KÜÇÜK) dünyaya geldi. İlkokulu köyünde tamamladı. 1970-71 öğretim yılında Konya İmam Hatip Lisesi'ne kaydoldu. Ailevi sebepler nedeniyle 1975-76 öğretim yılında Trabzon İmam Hatip Lisesi'ne naklini yaptırdı ve 1976-77 öğretim yılında Trabzon İmam Hatip Lisesi'nden mezun oldu.
Aynı yıl 1977 Ağustos ayında Sürmene İlçesi Kuşluca Köyü'nde İmam-Hatiplik görevine başladı. 1980-81 öğretim yılında Marmara Üniversitesi İlahiyat Fakültesi'ne kaydoldu. Görevini Fatih İskender Çelebi Camii'nde Müezzin-Kayyım olarak sürdürdü.
1983-84 yılında İlahiyat Fakültesi'nden mezun oldu.1985 yılında vatani görevini yerine getirmek üzere askerliğe Tuzla Piyade Okulu'nda başladı. Daha sonra kura sonucu Sarıkamış 17. Piyade Alayı'nda Asteğmen olarak devam etti. 1987'de terhis oldu.
1988 Mart ayında Almanya T.C.Duesseldorf Başkonsolosluğu görev bölgesi olan Hilden Yunus Emre Camii Din görevlisi olarak Başkanlığımızca yurt dışına gönderildi. Altı yıl bu görevi deruhte ettikten sonra 1994 yılında bu görevini tamamlayarak İstanbul Fatih Müftülüğü Canbaziye Camii İmam-Hatipliği görevinde bulundu. 1988 yılında açılan 12.Dönem Müftü ve Vaizler İhtisas kursuna devam etti. 1998 yılında Başkanlığımızca açılan Müftülük sınavını kazanarak Van İli Çaldıran İlçe Müftüsü olarak atandı. İki yıl bu göreve devam ettikten sonra 2000-2004 yılları arası Trabzon Tonya İlçe Müftüsü olarak tayin oldu. 2004 yılı Mart ayında Almanya Münih Başkonsolosluğu görev bölgesi olan Münih Merkez (DİTİM) Camiine din görevlisi olarak atandı. İki yıl bu görevi sürdürdü. Daha sonra yine Münih Dachou DİTİB Camii'nde iki yıl görev yaptıktan sonra 2008'de Türkiye’ye dönüş yaptı. Kısa bir müddet Bakırköy Vaizi olarak görev ifa ettikten sonra, Kastamonu Araç İlçe Müftüsü olarak tayin edildi. Dört yıl bu İlçede kaldıktan sonra 15.10.2012 tarihi itibariyle Karamürsel ilçe Müftüsü olarak göreve başladı. 13.02.2017 tarihinde İstanbul İl Müftü Yardımcılığına akabinde Bayrampaşa İlçe Müftülüğü'ne olarak atanan Yılmaz KÜÇÜK 15.05.2017 tarihinde görevine başlamış olup, 19.08.2022 tarihine kadar ilçemizdeki görevini sürdürmüştür. Atanmış olduğu Trabzon İl Müftü Yardımcılığı görevine başlamak üzere 19.08.2022 tarihinde ilçemizdeki görevinden ayrılmıştır.
Evli ve üç çocuk babası olan müftümüz Arapça ve Almanca bilmektedir.