1853年6月3日，太平天国开始挥师西征。西征一开始以江西为目标，但前后花了五六个月时间，三次攻打省会南昌仍然失败。杨秀清大为不满，撤换前线将领，由翼王石达开担任总帅，并派遣春官正丞相胡以晄进攻安徽临时省会庐州，也就是今天的合肥。

胡以晄从安庆出发率军北进，麾下大将包括秋官又正丞相曾天养、检点曾锦谦等人，一路势如破竹，10月26日破集贤关，11月14日占桐城，29日克舒城，进逼到庐州城下。

消息传到北京，清廷上下非常惶恐。当时林凤祥、李开芳的北伐军正在离天津城外不远的静海、独流，对北京构成非常严重的威胁，如果西征军攻占“北路咽喉”“豫鲁之门户”庐州，再大举北上，直捣河南、山东、直隶，与北伐军会合，那么就有可能置清王朝于死地。

庐州此时已成为敌我争夺的焦点。为此，清廷把“切须防贼北窜”的重任，交给太平天国的死对头江忠源，任命他为安徽巡抚，催他赶紧赴庐州上任。

江忠源，字常孺，湖南新宁县人，被称为湘军真正创始人，早在1844年就在家乡创办团练。《清史稿》记载：“湖南募勇出境剿贼，自江忠源始。”太平天国起事后，与弟江忠濬一起组建“楚勇”前去广西助剿。江忠源在清朝一堆庸碌无能的官员中，颇具战略战术头脑，先在蓑衣渡击毙南王冯云山，再在长沙、南昌多次打退太平军，因此受到清廷重用。

12月10日，原本在汉口的江忠源带病星夜兼程到达庐州，同行的还有兵勇2700余名。两天后，西征军大队进至庐州城下，“自皖至庐四百里，弥漫山谷”，号称拥众10余万人，当然不可能有那么多，实际兵力约万余人。

庐州作为军事重镇，城池不可谓不坚固，城垣周围13公里，共分七门，城外还有护城河围绕。当时城内共有兵勇约8000人，被围后，又组织了团练壮丁万余人，兵力不可为不厚。作为省会，城内粮饷尚算充足。江忠源也作了长期守城的打算，同时寄希望于各路解围援军快快就位。

清廷对庐州确实相当重视，调集多路援军，包括驻守河南陈州府的陕甘总督舒兴阿、驻守扬州的漕运总督福济，同时下令督办湖南团练大臣曾国藩率领所督练的湘勇赴援安徽。后来又谕令刚到徐州接办军务的江南提督和春、驻蒙城的袁甲三率军赴援庐州，其中和春是江忠源亲自指名，要他带兵援庐。

面对内有重兵，外有援军的庐州坚城，西征军吸取了之前围攻南昌不克的教训，改成外拒援敌，内困守军，也就是围点打援。庐州七门外建起木城、土垒，四围几无空隙，一遇攻击互相呼应。再在进城道路上钉上竹签，护城河上扎木筏，阻断出城通道，城池被围得水泄不通，城内外声息隔绝，文报不通。

来解围的清军充分发扬了“畏敌如虎，一战即溃”的光荣传统。舒兴阿率领15000人，其前队3000人于1854年1月3日来到庐州水西门外，第二天与西征军接仗，大败而退20余里。1月7日，舒兴阿亲自率领大队在城西与西征军再战，这次情况更加可笑，看见太平军举着黄旗杀过来，有人大叫一句“贼援至”，清军马队马上落荒而逃，全军崩溃，马都不要徒步而逃，溃兵跑到松林中，围在一起抱头痛哭。太平军追至，有一人手刃十几名清兵的。

这支八旗绿营正规部队，不但不能解围，还败得如此稀烂，之后打死也不肯再前进。

那位和春比起舒兴阿也好不了多少，率军1000从徐州出发，行到半路，看到西征军势大，借口查看地形，一查就查了十几天，徘徊不前。后来又要求将舒兴阿所带官兵调拨给他调遣——舒兴阿职位比和春高，这个纯属无理要求。但咸丰皇帝没有办法，只得从舒兴阿处调了三千兵给他。

和春要求得到满足，在路上却仍然是慢吞吞的，1854年1月12日来到庐州城外40里处，就不再前进。咸丰对他实在是无可奈何，只能下达“城外诸军都归和春节制”的上谕。

和春得到上谕，马上开始胡搞，自己在城下按兵不动，却不断催促远道以来的其他援军赶快到来，说要等“兵力稍厚，自当迅速进攻”，置庐州安危于不顾。

其实和春很聪明，他知道皇帝最重视的是“该逆无从北窜”。只要自己做到了，庐州失不失守与他没有关系，曾经的“老战友”江忠源死活也与自己无关。

江忠源望眼欲穿的援军之中，还有他的湖南老乡、正编练湘勇的曾国藩。但万万没想到，曾国藩却以“托购之广炮、洋炮未到，水师尚难以成军”为理由，拒绝赴援庐州。甚至说：“又不能遽赴吾岷老（江忠源号岷樵）之急。大局所在，止论地形之要害，不得顾友朋之私谊。即君父谕旨所指示，亦有时而不敢尽泥也。”不遵咸丰皇帝的赴援命令，不发一兵一卒，气得咸丰皇帝大骂丧尽“天良”。

庐州孤城在望，诸军却在城外作壁上观，江忠源可以说被坑惨了。只有原属他指挥的兵勇还肯舍力一救，如驻守六安的总兵音德布、寿春镇总兵玉山等，但也如飞蛾扑火，很快被西征军打退，其中玉山战死。江忠源之弟江忠濬带领新募楚勇1500人，在与音德布合队后，也被阻拦在庐州城外五里处，难以向前。

西征军于12月12日开始攻打庐州，连日不断对庐州各门强攻。但江忠源防御布置得力，“誓以死守”，又下令城内绅民“出丁助守，且设局分段送饭送粥送茶，昼夜不绝，兵勇无须举火得以专意守城”。西征军多次攻击，均遭顽强抵抗而未能奏效。为督战，江忠源就居住在水西门城楼之上，朝廷特赐他霍隆武巴图鲁勇号。

西征军改变攻城策略，开始挖地道放炸药。江忠源有防守南昌的经验，熟悉太平军的路数。他下令一起前来安庆、有防挖地道经验的湖南人邹汉勋等，用埋瓮听音的方法，发现地道挖掘的方位后，派遣夫役迎着太平军的地道反挖，多次掘毁西征军所挖地道。

既然简单挖地道行不通，西征军改变方法，采用多点挖掘来干扰侦听，致使守军判断地道位置出错，地道得以顺利挖到城下。

接下来又发现问题，几次城下爆破虽然成功，但缺口很快被守军堵上。西征军再次改变策略，采用两层地道爆破的方法。

1月15日凌晨，庐州水西门地道爆破，轰塌城墙五六丈，等到清兵抢堵完成后，下一层地道中威力更大的地雷再发，城池马上塌陷十余丈，兵勇死伤无数，西征军从缺口大举杀入。

负责把守北门拱辰门一带的庐州知府胡元炜早已经暗通太平军，见状即作内应，将城上灯火熄灭，于昏暗中以长绳系城垛垂到城外，城下西征军马上攀缘而上。胡元炜再把拱辰门城楼点燃，火光冲天而起，全城大乱，清兵勇纷纷溃逃，庐州在围攻34日后城破。

江忠源眼见城破，欲拔刀自刎，被左右亲兵阻止，都司马良勋背着他逃走。江忠源猛咬马良勋的耳朵，奋力挣脱，继续与太平军交战。到达水关桥时，被西征军“飞戟乱刺，身受重创，坠桥下古塘死”，也有说是投水自杀，时年四十二岁。

胡以晄于17日进城，进城后整肃军纪，张贴告示“士农工商各有生业，愿拜降就拜降，愿回家就回家”。捷报传至天京，天王论功行赏，晋封胡以晄为护国侯，后改为护天侯。

江忠源的尸体在城破八日后被部卒周昌迹背出，据说面色如生。清廷追赠江忠源为总督、骑都尉兼云骑尉世职，赐谥忠烈，将他的灵位安放在昭忠祠中，太平天国灭亡后，再追赠三等轻车都尉世职。