Ogród skalny jak sama nazwa wskazuje, powinien być zbudowany ze skał i powinny w nim rosnąć rośliny skalne, alpejskie, czyli te gatunki, które w naturze rosną w górskich rejonach. Ogrody takie są budowane przez entuzjastów tworzenia kolekcji roślin alpejskich, aby upodobnić miejsce uprawy swoich roślin do warunków występujących w naturze.
Ogród skalny powinien być ważnym i przemyślanym elementem ogrodu, a nie zbiorem przypadkowych kamieni i roślin posadzonych chaotycznie. Tajemnica sukcesu ogrodów skalnych polega na doskonałym ustawieniu skał, nieważne czy dużych czy małych. Efekt musi być taki, jakby zostały one umieszczone przez samą naturę, bez pomocy czy ingerencji człowieka.