Sur une éminence rocheuse dominant la Vltava s’étendait jadis le château des hauteurs qui lui donna son nom. Fortifié au Xe siècle, il servit par périodes de résidence aux Premyslides et son emplacement garde une grande signification historique et mythologique pour le peuple tchèque. Le lieu reste attaché à la légendaire Libuse, fondatrice mythique de Prague ainsi que de la première dynastie royale de Bohême. On découvrira dans le parc la vieille rotonde Saint-Martin, les restes de la porte gothique Spicka, les colonnes du Diable et de la Peste. On y fonda dans les années 1870 un cimetière national. Au pied du rocher se dressent trois constructions cubistes de J. Chochol, édifiées entre 1911 et 1913.