武義地形西南高、東北低，南部、西部和北部三面環(huán)山，峰巒連綿。境內(nèi)山脈屬浙中山系，包括西南部來自遂昌縣界的仙霞嶺山脈，東南部來自縉云縣界的括蒼山脈，東北部來自義烏和永康的仙霞余脈的八素山脈。全縣千米以上山峰有102座，西部西聯(lián)鄉(xiāng)的牛頭山海拔1560.2米，為金華市的第一高峰。
境內(nèi)最低處為北部履坦鎮(zhèn)范村，海拔高度僅57米。中部丘陵蜿蜒起伏，其間樊嶺--大廟嶺東西向橫貫縣境中部，形成武義和宣平兩個河谷盆地，并把縣境內(nèi)的水流分成錢塘江、甌江兩大水系。