1964’te Tokat’ta doğdu. 1982 Bursa İmam-Hatip Lisesi'nden mezun oldu. 1986 yılında Marmara Üniversitesi İlahiyat Fakültesi, 1988-1990 yılında Diyanet İşleri Başkanlığı Haseki Eğitim Merkezinden 7. Dönem mezun oldu. Uludere, Kıbrısçık, Zara İlçe Müftüsü olarak çalıştı. 1993-1999 yılları arasında yurtdışı din görevlisi olarak Almanya’ya gitti. 1994-1998 yıllarında Köln Üniversitesi Oryantalistik Bölümünde yüksek lisansını bitirdi. 1998-1999 öğretim yılında Bonn Üniversitesi’nde başladığı doktora eğitimini Ankara Üniversitesi İlahiyat Fakültesi’nde tamamladı. 2007-2008 yılları arasında Din İşleri Yüksek Kurul Uzmanı olarak görev yaptı. 2008 yılında Hamburg Din Hizmetleri Ataşeliğine atandı. 2013 yılında Eskişehir Osmangazi Üniversitesi İlahiyat Fakültesi’nde öğretim üyesi, 2014-2015 yılları arasında Bozok Üniversitesi İlahiyat Fakültesi Dekanı olarak görev yaptı. Halen Ankara Yıldırım Beyazıt Üniversitesi İlahiyat Fakültesi Tasavvuf Anabilim Dalı öğretim üyesi olarak çalışmaktadır. Almanca ve Arapça bilen YILMAZ evli ve üç çocuk babasıdır.