II. nádvoří vzniklo ve 2. polovině 16. století po zasypání obranného příkopu. Na západní straně je uzavřeno křídlem tzv. Nového paláce z doby císařovny Marie Terezie, původně určeného pro ubytovací účely. Dnes jsou v průchodu mezi I. a II. hradním nádvořím vstupy do reprezentačních prostor Pražského hradu. V jižním křídle, kde byl kdysi palác císaře Rudolfa II., jsou místnosti prezidenta republiky. Na protilehlé, severní straně, kde v minulosti bývaly konírny, je Obrazárna Pražského hradu. Prostor nad konírnami zaujímají dva honosné sály – Španělský sál a Rudolfova galerie. Španělský sál patří k nejkrásnějším v Evropě. Bývá využíván při zvláště slavnostních příležitostech. Průchodem středního křídla, tzv. Nového paláce, které uzavírá II. nádvoří na východě, je možno projít na III. nádvoří, před západní průčelí katedrály sv. Víta. V průchodu je též pracovní vstup do Kanceláře prezidenta republiky.

V prostoru nádvoří vyniká kaple sv. Kříže, která je napojená na jižní podélné křídlo Pražského hradu. Původně barokní kapli postavil v letech 1756-1764 architekt Anselmo Lurago snad podle původního projektu dvorního architekta Nicola Pacassiho. Kaple byla v letech 1852-1856 rozšířena a zevně klasicistně upravena. Po roce 1918 pak ztratila svůj sakrální význam.

Uprostřed nádvoří stojí monumentální pískovcová, výtvarně bohatě zdobená Kohlova kašna, jejíž vznik je datován k roku 1686. V minulosti tvořila důležitou součást vodního režimu sídla českých panovníků. Autorem sochařské výzdoby je Jeroným Kohl (asi 1632-1709). V těsném sousedství je ještě studna s umělecky tepanou mříží. Její hloubka je 25 m, sloupec vody má výšku asi 10 m.