造—剥蚀、山麓斜坡堆积及河流侵蚀堆积三类，形成山地、丘陵、山间盆地及河谷四种地貌单元，[36]境内地势西部和南部高，东北低，黄河自西南流向东北，横穿全境，切穿山岭，形成峡谷与盆地相间的串珠形河谷。[50]兰州市境内地形可分为三带：北部为阿尔金山-祁连山侵蚀构造山地区之祁连山东段中山山地亚区，中部为峡谷与盆地相间的串珠状河谷盆地，南部为马衔山、兴隆山、雾宿山等山地。境内大部分地区为海拔1500-2000米的黄土覆盖的丘陵和盆地，主要有秦王川和榆中两大断陷盆地，其中秦王川盆地位于永登县与皋兰县之间，盆地形状为倒三角形，南北长约42千米，东西最宽处约16千米，总面积470平方千米，海拔在1850-2300米，是兰州市地势平坦、面积最大的盆地。
兰州市境内河道属黄河流域，河流总长度1179.7千米，河网密度0.04千米/平方千米，径流总量338亿立方米。境内主要河道有一级支流湟水河、庄浪河、宛川河、苦水沟、雷坛河、麋鹿沟、中铺沟、王蚬沟等，总长792.9千米；二级支流大通河，总长60千米。其中，最大的支流是湟水，从红古区享堂峡入境至西固区达川乡流经海石湾、红古、花庄、平安4个乡镇，长57千米，流域面积3.4万平方千米，年均流量44.2亿立方米/秒。[36]
兰州境内的河是季节性河流，有相当多的河甚至常年无水，只有在暴雨天才有流水。截至2020年，兰州市除了黄河、湟水、大通河水量丰富，庄浪河水量较丰富外，只有榆中县境内的龛谷河、徐家峡河、兴隆峡河、曳木岔河、官滩沟河，七里河境内的阿干河，永登县境内的吐鲁沟河还有少量流水外，其他的河流，包括过去有较大流量的如宛川河、沙河、大河、水岔沟河、柳沟河、西果园河、七里河、笋箩沟河、龙滩河、咸水河、蔡家河、水阜河等均已断流。
截至2020年9月，兰州市有水库15座，永登县9个水库为：大东湾水库、中坝水库、李尧沟水库、鱼儿坝水库、下河西水库、五里墩水库、护儿湾水库、黑石头水库、东泉子水库；皋兰县4个水库为：黑石水库、三和水库、曹家沟水库、太平山水库；榆中县2个水库为：高崖水库、龛谷水库。[191]
高崖水库是由1958年截堵马衔山流出的