14 Haziran 1958’te, Aşağı Saksonya eyaletinde bulunan Osnabrück kentinde tekstil işçisi bir ailenin çocuğu olarak dünyaya gelen Scholz, Hamburg Üniversitesi Hukuk Fakültesi’nden mezun oldu ve 1998 yılına kadar iş hukuku alanında çalıştı.
Scholz siyasete genç yaşta, üniversiteyi okuduğu kent olan Hamburg’da, SPD’nin ‘Jusos’ olarak bilinen “Genç Sosyalistler” grubunda başladı. 1982’den 1988’e kadar Jusos’un Başkan Yardımcılığını yürüttü.
1998'den 2011'e kadar Federal Meclis üyesi olarak görev yaptı. Almanya Başbakanı olan Gerhard Schröder’in SPD’de Genel Sekreterliğini üstlendi.
2004 yılında Genel Sekreterlik görevinden ayrıldıktan sonra, partisinin Federal Meclis'teki Grup Başkanvekili oldu. Scholz, 2009’da ise Birinci Merkel Hükümeti'nin ikinci Çalışma ve Sosyal İşler Bakanı olarak görev aldı. 2011-2018 yılları arasında ise Hamburg Eyalet Başbakanı oldu.
SPD 2018'de Dördüncü Merkel Hükümeti'ne girdikten sonra Scholz, yeniden Berlin’e döndü ve bu kez hem Maliye Bakanı hem de Almanya Şansölye Yardımcısı olarak atandı.
Olaf Scholz, 26 Eylül’de yapılan Almanya seçimlerinde kendisini başbakan adayı olarak gösteren partisi SPD’yi yüzde 25,7’lik oy oranı ile birinciliğe taşımayı başardı.
Ülkede genel seçim sonrası kurulan yeni hükümet Sosyal Demokrat Parti, Yeşiller Partisi ve Hür Demokrat Parti'den oluşuyor. Bu koalisyon, partilerin renklerinden dolayı “Trafik Lambası Koalisyonu” olarak adlandırılıyor. Scholz’ün partisi ise koalisyonda kırmızı rengi temsil ediyor.
Almanya’da 16 yıllık Merkel döneminin sona ermesinin ardından Olaf Scholz’ün başbakanlığı 8 Aralık 2021'de Bundestag’da onaylandı.