山石的配置，要精心设计，考虑周到，所配山石体量不宜过大，形态切忌怪异，或过于秀美，和主体树木分庭抗礼，甚至喧宾夺主。一般选取体态浑厚朴拙的龟纹石、钟乳石、松化石、英石、砂积石、海母石等比较理想。所用山石1块、2块、3块、5块或更多，通常以奇数为好。
盆中山石或卧或立，半埋半露，如同林中散点的山石一样，也如自然界山坡上的裸岩。但这种散点式的布置绝不是像散放的羊群一样毫无规律，而是有主次、大小、高低、前后、疏密、聚散的变化，但石种必须统一，纹理要一致，体态、色泽也较接近。
如同种英石，其体态、纹理差异很大，要选基本一致的纹理和体态才能和谐。此外，各石间的面向也要注意，正如明龚安节《画诀》中所述：“石必一丛数块，大石间小石，然须联络，面宜一向，亦宜大小顾盼”。
在具体配置时，一种形式是将一组主石配于树木近根处，高低几块，错落有致，树木似从石间长出，野趣天然。再在离树稍远处配几块小石以求呼应。另一种是在树木旁侧有大片空地，显得空旷，在空旷处配置几块山石，虚中有实，可打破空旷感。
要使配置的山石和树态协调，如形态差异太大，则构图上就难以统一。中国国画中常有松石、梅石、兰石、竹石图等形式，用树石间动静、虚实的对比，衬托出松的苍劲，竹的潇洒，梅的高洁。如以石配竹，由于色彩和质感上的对比，竹显得更加青翠、娇嫩。卧石配立竹，石低平蜿蜒，紧贴地面，更显出竹拔地而起的神韵。
盆内树桩往往不是完美无缺的，有的树干局部过直或过曲，显得僵硬，在树干前配上一块山石，可将缺陷弥补。有的树干倾倒，若用石支撑则一举两得。有的树干向一侧斜伸，重心不稳，若在树倾斜方向反侧的近根处放置山石，能使构图均衡。
大悬崖盆景，整个树身倒挂下垂，则下重上轻，若在盆面上放置两块直立的斧劈石或石笋石，同样可使画面均衡，给人以树林长在峭壁之上的感觉。不过这石形宜修长，若放置浑厚敦实的山石，则与悬崖式的树形和高干筒的盆形格格不入。
