1985 yılında Galatasaray Lisesi’ni bitirmiştir. 1990 yılında Marmara Üniversitesi, İktisadi ve İdari Bilimler Fakültesi İngilizce İşletme Bölümü’nden mezun olmuştur. 1993 yılında Marmara Üniversitesi İngilizce Finansman Muhasebe Yüksek Lisans Programını tamamlamıştır. 1991-1994 yılları arasında T.C. Başbakanlık Hazine Müsteşarlığı, Banka ve Kambiyo Genel Müdürlüğü’nde uzman olarak görev yapmıştır.

1994 yılında İstanbul Menkul Kıymetler Borsası’nda görev yapmaya başlamıştır. 1998 yılında Marmara Üniversitesi Bankacılık ve Sigortacılık Enstitüsü, Bankacılık ana bilim dalında doktor unvanını, 2004 yılında ise Finans-Muhasebe ana bilim dalında Doçent unvanını almıştır. 1994-2005 yılları arasında İstanbul Menkul Kıymetler Borsası Vadeli İşlemler Piyasası’nda ve 2006-2007 yılları arasında Risk Yönetim Müdürlüğü’nde uzman olarak, 2007-2011 yılları arasında ise Özel Kalem Müdürü olarak görev yapmıştır.

2006 Kasım-Aralık döneminde İslam Kalkınma Bankası’nın temsilcisi olarak Tahran Metal Borsası ile İran Tarımsal Ürün Borsası’nda, 2007-2013 yılları arasında da Türkiye Odalar ve Borsalar Birliği Sermaye Piyasası Sektör Meclisi’nde Danışman olarak görev almıştır. 2012-2016 yılları arasında Borsa İstanbul Genel Müdür Yardımcısı olarak görev yapan Yılmaz, 2012-2013 yılları arasında Takasbank Yönetim Kurulu Üyesi, 2015-2016 yılları arasında Enerji Piyasaları İşletme A.Ş. Yönetim Kurulu Başkan Vekili, 2013-2016 yılları arasında ise MKK Yönetim Kurulu Üyesi olarak görev yapmıştır. 2017 yılından itibaren İbn-i Haldun Üniversitesi Yönetim Bilimleri Fakültesi’nde Profesör unvanıyla öğretim üyesi ve Fakülte Dekanı olarak görev yapmakta olan Yılmaz, evli ve 2 çocuk sahibidir