Stavebníkem paláce byl Humprecht Jan hrabě Černín z Chudenic. V díle poté pokračovali Heřman hrabě Černín a vnuk zakladatele, František Josef hrabě Černín. Hlavní část stavební realizace proběhla v letech 1669-1682 podle projektu Francesca Carattiho. K výtvarné výzdobě byli přizváni nejpřednější umělci té doby. Po svém dokončení se Černínský palác čp. 101 stal největším barokním palácem v Praze. Velkolepé východní průčelí je členěno třiceti průběžnými polosloupy. Na severní straně komplexu byla zbudovaná pozoruhodná zahrada.

Dvakrát byl palác poničen při válečných událostech, v roce 1742 bavorským a francouzským vojskem a v roce 1757 při pruském dělostřeleckém bombardování. Od roku 1777 nebyl objekt obýván a pustl. Ještě krátce ožil v roce 1791 při pražské korunovaci císaře Leopolda II. Později byl palác zakoupen vojenským erárem. Smlouvu podepsal císař František Josef I. 11. dubna 1851. Úpravy na kasárna proběhly podle plánů arch. Achilla Wolfa. Terasa byla přeměněna na cvičiště. Rehabilitace se Černínský palác dočkal v roce 1923, kdy objekt získala vláda Československé republiky pro své Ministerstvo zahraničních věcí. Hlavní etapa rekonstrukčních prací proběhla v letech 1929-1934 za rozhodující účasti arch. Pavla Janáka. Velkých úprav se dočkala i zahrada a terasa před hlavním průčelím.

V letech 1939-1945 vlála nad palácem vlajka s hákovým křížem, neboť se stal sídlem protektora pro Čechy a Moravu a příslušných nacistických úřadů. Po skončení II. světové války v Černínském paláci opět sídlilo Ministerstvo zahraničních věcí ČSR. Dne 10. března 1948 tady tragicky, za dosud neobjasněných skutečností, skončil pádem z okna život úřadujícího ministra tohoto úřadu, Jana Masaryka. Dne 1. července 1991 byl ve velkém sále paláce oficiálně zrušen vojenský pakt Varšavská smlouva.