連州市地處南嶺之中的萌渚嶺南麓，境內崇山峻嶺，丘陵岡巒星羅棋布。主要山脈有綿延豐陽、瑤安一帶的簸箕山脈，主峰天堂嶺，海拔1712米，為市內最高峰，位于瑤安與湖南省蘭山縣交界處;橫跨東部潭嶺、朝天、西江一帶的大東山山脈，主峰巖坑山，海拔1604米，為內市第二高峰，位于朝天與陽山交界處;其余山嶺多在海拔1000米以下。山地占全市總面積的72.2%，丘陵占15.9%。本市地形，因東面有大東山脈，由東北向西南;西部有大龍山脈，由西北向西南;北部有簸箕山脈，形成西、北、東三面山地，中部稍低，均為丘陵地帶。星子、大路邊、龍坪、保安等鄉鎮大部分地區為小盆地;清水、豐陽南部、東陂北部為丘陵盆地;西岸、東陂兩鄉鎮河流兩岸為河谷盆地;保安、附城及九陂等鄉鎮部分地區為丘陵盆地。

　　連州市主要河流有星子河，發源于大東山脈，發源地近處建有一個大型的潭嶺水庫。保安河、東陂河發源于北部簸箕山脈，還有連南瑤族自治縣的三江河，流經本市連州鎮高車墩村附近匯入連江