系列改革，减免赋税，鼓励农耕，兴修水利。他亲自下田，与百姓同劳作，指导他们种植新品种的水稻。在他的努力下，江西的农业生产逐渐恢复，百姓的生活有了起色。逢年过节，百姓们会自发地给于谦送来自家做的米糕、腊肉。于谦每次都婉拒，他说：“大家的心意我领了，但这些我不能收。我于谦为官，只为百姓谋福，不取百姓一分一毫。”
几年后，于谦因政绩卓越，被调任京城，担任兵部侍郎。进京的路上，百姓们扶老携幼，含泪相送。一位白发苍苍的老妪拉着于谦的手，哭着说：“于大人，您在我们这儿，就似一盏明灯。您这一走，我们可怎么办啊？”于谦安慰她道：“老人家，只要你们按照我说的去做，日子会越来越好。我虽离江西，但心仍系这儿。”
然而，京城的官场远比江西复杂。于谦到任后，发现兵部官僚主义盛行，贪腐现象严重。许多官员靠克扣军饷、倒卖军械肥了自己的腰包。于谦看在眼里，恨在心里。他决定从整顿兵部入手，革除弊政。第一次在兵部大堂召开会议，于谦便语惊四座。他拍案而起，直指众官：“我大明军队是保家卫国的利刃，岂容你们这些蛀虫侵蚀！从今往后，军中账目必须透明，若有谁敢以身试法，我定让他身败名裂！”此言一出，满堂寂静，众官员面面相觑。
于谦说到做到，他亲自审查每一笔军费开支，彻查军械库的物资流向。在他的严查下，兵部的贪腐现象得到了有效遏制。然而，这也引来了麻烦。那些被触动利益的官员们开始暗中联合，四处散播谣言，说于谦公报私仇、刚愎自用。一时间，朝堂上对于谦的非议声四起。
面对这些诬陷，于谦毫无畏惧。他在奏折中向皇帝表明心迹：“臣为官一任，自当忠于国家，清正廉洁。臣之所作所为，皆为大明江山社稷着想。倘若臣有一丝贪腐之心，天人共戮！”成化帝深知于谦为人，对这些谣言不以为意，还下诏褒扬于谦的清廉与担当。
于谦在兵部任职期间，不仅整顿内务，还多次随军出征，抵御外敌。他身先士卒，与士兵同甘共苦，深知军饷对士气的重要性。他定期巡视军营，检查士兵的生活状况。一次，他发现有一处军营的士兵们棉衣破旧，冻得瑟瑟发抖。回到兵部后，他立刻安排发放新的棉衣，并严查为何军饷迟迟未发。