長治市為太行山、太嶽山所環繞,構成高原地形,通稱“沁潞高原”,又稱“上黨盆地”。平川、丘陵、山地分別佔總面積的15.9%、33.4%和50.7%,平均海拔高度為1 000米,東部的太行山的黎城縣歷峪山最高點為2 012米,西部的太嶽山的沁源縣石膏山最高點為2541米。