前秦自苻坚继位以来，积极对外，发动统一北方的战争。消灭前燕之后，北方只剩下前凉、拓跋代国等政权。公元376年，前秦君主苻坚消灭前凉和拓跋代国，统一了北方。公元357年，苻坚登基成为前秦皇帝之后，就以统一北方为目标，先后消灭前燕、前仇池等政权，整个北方只剩下西边的前凉和东边的代国还没平定。前秦国力远远胜过这两个国家，需要的只是一个借口。

前凉政权由凉州刺史张轨建立，从西晋开始就割据在凉州，到苻坚西征的时候已经延续了七十六年。张轨把凉州治理得井井有条，曾经击败鲜卑，俘虏十几万人，因此受封为安西将军。八王之乱后，皇帝对凉州失去了控制，凉州事实上已经是独立状态，但是张轨一直以晋臣自居。其他军阀都不把晋朝皇帝放在眼里，只有张轨每年继续给皇帝进贡。

前凉传了九任君主，到了张轨的重孙张天锡手里，情况不同了，一是持续内斗，实力衰弱，张天锡本人就是政变上台的；二是对晋的忠诚已经大打折扣了。张天锡继位后，两边下注，派使者向东晋称臣，因此受封为大将军、凉州刺史、西平公，同时又接受了前秦的册封。

这种投机行为，是小国在大国夹缝中的生存之道，但是需要拿捏好火候，否则激怒其中一个大国，就是灭顶之灾。张天锡显然不具备这种能力。他单方面断绝了和前秦的关系，后来接到前秦丞相王猛的书信警告，又吓得再次接受前秦的册封。张天锡心里还是不信任苻坚，毕竟两国实力差距太大，一旦打起来，自己根本不是对手。于是，张天锡派使者到东晋，与东晋大司马桓温约定一起北伐。这下彻底惹怒了苻坚。

苻坚下诏，任命张天锡为武卫将军，让他到长安来做官，同时命令大将苟苌、毛盛、梁熙、姚苌集结13万大军到两国边境。如果张天锡不到长安来，大军立即出发讨伐凉州。张天锡接到诏书，赶紧召集手下商量对策。大臣席仂建议张天锡向苻坚称臣，然后送儿子到长安做人质。前凉很多人还是忠于晋朝的，席仂这话直接激怒了他们。

众人对张天锡说，我们世世代代都是晋的忠臣，坚决不能投降，我们可以派精兵据险防守，还可以向匈奴借兵，未必就不能赢。张天锡倒向了主战派，杀掉了苻坚派来的使者，命令部将马建带两万人前去迎战。这时秦军已经渡过了黄河，马建没有抵抗就开始后退，到了清塞防守。张天锡又派大将常据带三万人支援马建，自己带五万人防守金昌。

就在张天锡调兵增援的时候，秦军发动了进攻。姚苌带三千人为前锋，击溃了马建的几万人马，常据战死，马建投降了秦军。张天锡重新任命大将赵充哲为先锋，带五万人抵挡秦军，结果赵充哲兵败被杀，凉军损失了三万八千人。张天锡亲自带兵出战，没想到刚出城，城内守军就叛变了，张天锡带着几千人跑到了姑臧城。张天锡此时已经失去了翻盘的可能性，在走投无路之中，只好开城投降了。前凉灭亡。

平定了凉州，苻坚开始寻找机会，消灭拓跋鲜卑建立的代国。正好匈奴铁弗部首领刘卫辰遭到代国攻击，向苻坚求助，苻坚怎么可能放过这么好的机会，立即答应出兵。苻坚任命幽州刺史符洛为北讨大都督，率兵十万，又派并州刺史俱难等人带领二十万人马与符洛会合，由刘卫辰带路，向代国的云中杀来。

代国虽然建国，但是依然保持着游牧民族的习俗，以拓跋部为首，分成一个一个的部落。代王拓跋什翼犍先派白部、独孤部迎战，被秦军击溃，又派南部出战，结果再次败给了秦军。连战连败，拓跋什翼犍又恰巧在生病，没办法亲自带兵，拓跋部只能往北退回大漠，躲避秦军。

就在强敌压境的时候，代国内部也乱了。先是高车部叛变，四处抢劫，导致拓跋部没办法在大漠上放牧，只能又回到云中。这时王室内部因为继承权问题又陷入了政争。什翼犍的两个嫡子早就去世了，孙子拓跋珪只有六岁，所以谁能继承他的位子是代国必须解决的大问题。什翼犍的侄子拓跋斤没能继承自己父亲的部众，一直心怀不满，于是挑唆什翼犍的庶长子夺位。拓跋斤对寔君说，代王要杀你，立别的儿子继位，所以这几天他们晚上都穿着盔甲，派士兵在营帐外巡逻。

代国和秦军正在交战，晚上巡逻戒备其实是很正常的事。拓跋寔君竟然就相信了拓跋斤的话，杀了自己的几个弟弟，害死了拓跋什翼犍。什翼犍几个儿子的部众投靠了秦军，秦军立刻发动进攻，趁乱击溃了拓跋部，活捉了拓跋寔君和拓跋斤，送到长安处死，代国灭亡。苻坚依靠前秦强大的军力，在对手内部混乱的时候，将其击溃，从此统一了北方，开始筹划南征，消灭偏安的东晋王朝。