Siedziba centrali BGK do grudnia 1931 r. znajdowała się jednocześnie w kilku lokalizacjach. W kamienicy przy ul. Królewskiej 5, przy ul. Siennej 17, gdzie mieścił się Departament Budowlany i do 1927 r. w gmachu Towarzystwa Kredytowego Miejskiego przy ul. Czackiego 23, gdzie wynajmowano pomieszczenia na siedzibę Departamentu Kredytów Długoterminowych.

W 1927 r. część departamentów centrali przeniesiona została do będącego od 1924 r. własnością BGK pałacu Tyszkiewiczów-Potockich przy Krakowskim Przedmieściu 32. W latach 1928–1931 wzniesiono według projektu Rudolfa Świerczyńskiego, twórcy wydziału architektury na Politechnice Warszawskiej – gmach Banku Gospodarstwa Krajowego w Alejach Jerozolimskich w Warszawie. W 1932 r. dawną siedzibę centrali przy ul. Królewskiej BGK sprzedał Polskiej Agencji Telegraficznej, a pałac Tyszkiewiczów-Potockich wynajął Bibliotece Narodowej.

Projekt prof. Rudolfa Świerczyńskiego to jeden z pierwszych wśród instytucji państwowych przykładów klasycyzującego modernizmu. Wiele wskazuje na to, że bezpośrednią inspiracją architekta była fotografia elewatora zbożowego w Kanadzie, której w 1923 r. użył Le Corbusier w swoim dziele „W stronę architektury”. Miała ilustrować wzorzec budownictwa, której siła wynika z celowości i prostoty, jako „przemyślanej, wspaniałej gry brył w świetle”. Za drugą inspirację „Nowym Światem”, a konkretnie Nowym Jorkiem, może uchodzić schodkowa kompozycja górnych kondygnacji banku. W 1916 wprowadzono tam tzw. Prawo strefowe (Zoning Law). Dookoła manhattańskich parceli wyznaczono strefę ochronną, określają maksymalny wymiar budynków. Prosta, pionowa ściana mogła piać się tylko do pewnego poziomu, powyżej którego elewacja musiała „uciec” do tyłu, w stosunku do krawędzi parceli, tak aby na ulice miało szanse dotrzeć światło. Był to akt założycielski nowoczesnego miasta. To tak rodziła się urbanistyka, której założeniem było, że tkanka miejska nie może rozwijać się, nie dbając o dobre sąsiedztwo. Miasto musi być przestrzenią nadająca się do życia, a rozwój musiał się równoważyć.

 „Do budowy przystąpiono 21 maja 1928 r. Jeżeli uwzględnić nienależne od Banku i Kierownictwa robót przyczyny opóźnienia budowy, jak np. nieopróżnienie w porę części placu, oraz inne,(…) — tempo budowy na nasze stosunki, można przyznać, było należyte. W ciągu półczwarta roku budowa i urządzenie gmachu zostały całkowicie zakończone. Z dniem 6 grudnia 1931 r. gmach Centralnego Zakładu B. G. K. został całkowicie wraz z urządzeniem wewnętrznem oddany do użytku.” – tak w 1932 opisywał budowę gmachu BGK miesięcznik Architektura i Budownictwo.

Budynek przy Alejach Jerozolimskich 7 wzniesiono w konstrukcji stalowej, opracowanej przez Ludwika Tylbora. Obiekt usytuowano na palach, co miało zapobiec jego osiadaniu. Aby sprostać wymaganiom i zbudować gmach w terminie, prace prowadzono na trzy zmiany – w najbardziej intensywnym okresie wykonywało je 300 robotników. W podziemiu powstał skarbiec, otoczony specjalną fosą. Elewacja gmachu została oblicowana niebanalnym kamieniem – andezytem małopolskim. Wejście główne zostało zaakcentowane ryzalitem. Umieszczono na nim cykl płaskorzeźb. Ich autorem jest Jan Szczepkowski, już wtedy uznany rzeźbiarz, autor m.in płaskorzeźb na fryzie sali obrad Sejmu RP. O wysmakowaniu wnętrz budynku można przekonać się już w holu; oczom ukazują się bardzo atrakcyjnie wizualnie kolumny, wykonane z chromoniklowej blachy, dematerializujące się w świetle plafonów, które przenikają. Funkcja nośna tych elementów, dźwigających siedem kondygnacji, została przez architekta świadomie zatarta. Ściany oblicowano alabastrem i kieleckim marmurem. Lekkości tej przestrzeni nadają także ogromne tafle lustra oraz przeszklenia, za którymi została usytuowana główna sala operacyjna, nad którą rozciąga się szklany sufit wpuszczający dzienne światło.  Żelbetowa konstrukcja ocaliła go przed zburzeniem we wrześniu 1939 r. i podczas powstania 1944. W 1949 budynek – zgodnie z pierwotnym zamierzeniem – rozbudowano według projektu Hipolita Rutkowskiego. BGK powrócił w mury swojej pierwotnej siedziby w 1997. Obecnie odbywa się w nim rozpoczęta w 2020 modernizacja, która na stulecie banku w 2024 przywróci mu dawny blask i charakter.