吴佩孚是曹锟手下的头号大将，毕业于保定陆军学堂，说起来还是段祺瑞的学生。而早在吴佩孚崭露头角时，便有山东隐士郭绪栋向段祺瑞举荐过吴佩孚，当时郭绪栋说：

“吴子玉是潜龙在渊，总有一天会一飞冲天。”

“与又铮比如何？”段祺瑞急问。

“各有长短。论手腕、心计、纵横捭阖，当属又铮。若论带兵打仗，进退攻守，北洋后起将领中无出吴子玉之右者。”

郭绪栋素有识人之能，经常为北洋中上层人士举荐人才，段祺瑞对其所言深信不疑，随后便找到曹锟，以军火为交换条件，借走了吴佩孚。

曹锟对吴佩孚一向纵容，敬重有加，但吴佩孚对曹锟的贪婪非常不齿，所以并不以追随曹锟为荣。对段祺瑞的清廉和自律，吴佩孚早有耳闻，心中敬仰之极，听说段祺瑞请他过去帮忙，自然喜不自禁。

然而，两人的第一次见面并不愉快。那天段祺瑞刚刚与冯国璋大吵了一通，冯国璋前脚走，吴佩孚后脚就来了。段祺瑞一向不擅隐藏情绪，喜怒都挂在脸上，对吴佩孚的态度便显得冷淡而不耐烦，甚至没看吴佩孚一眼，只是淡淡地交代了一句：“这份演习计划，限你一周完成。”

吴佩孚何曾受过如此冷落？心里十分窝火，回敬道：“何须一周，一日便可完成！”

吴佩孚的狂妄口气，让段祺瑞忍不住抬起头来，看到吴佩孚不屑的眼神，段祺瑞立刻怒火中烧，恨恨地说：“好，就一天，完不成休来见我！”

吴佩孚心高气傲，不擅巴结上司，习惯被人敬重，见段祺瑞对自己如此不屑，不再说话，而是转身离去。看着吴佩孚的背影，段祺瑞的心情更加败坏。

第一次见面，两人对彼此都没有留下好印象。但是，印象毕竟是可以改变的，或许相处久了，就会发现彼此的优点。到那时，说不定吴佩孚会成为段祺瑞的心腹，那么，历史说不定会重新改写。可是，徐树铮亦非等闲之辈，他怎会眼睁睁看着别人跟自己“争宠”？于是，当吴佩孚回到住所，开始着手做演习计划之时，徐树铮笑呵呵地登门拜访。

“吴兄，久仰大名。今日相见，真是三生有幸。”

徐树铮对吴佩孚一副万分敬重的样子，令吴佩孚心中顿生好感。吴佩孚热情地将徐树铮迎到室内，两人隔桌而坐，畅谈时事，竟越谈越投机。吴佩孚惊异地发现，徐树铮在许多问题上见解高深，比自己有过之而无不及，立刻心生敬仰。吴佩孚生性豪爽，见今日得一知己，兴致高涨，便吩咐人定了一桌酒席，邀徐树铮外出喝酒，不醉不归，完全将段祺瑞布置的任务抛到了脑后。

吴佩孚向来贪杯，这顿酒席直吃到半夜，与徐树铮分别时，吴佩孚已烂醉如泥，话都说不清了，不可能再去完成什么演习计划。看到吴佩孚这种状态，徐树铮得意地笑了。

第二天一早，徐树铮就找到段祺瑞，装作不经意地提起吴佩孚，段祺瑞想起给吴佩孚布置的演习计划，应当今早交上的，一打听，吴佩孚这会儿根本没在差上。在徐树铮的挑拨下，段祺瑞以为吴佩孚妄自尊大，不将自己放在眼里，立刻备车，前往吴佩孚的住所。

令段祺瑞吃惊的是，吴佩孚竟然宿醉未醒。段祺瑞登时火冒三丈，指着吴佩孚的鼻子就是一顿臭骂。吴佩孚吃软不吃硬，既不解释也不认错，当天就返回曹锟军中，两人至此不欢而散。

段祺瑞没有想到，1918年初二次征湘时，在湖南前线连打胜仗的竟然是吴佩孚。当时曹锟为第一路总司令，吴佩孚率部打前阵，很快脱颖而出，晋升第三师师长。3月上中旬，他先克临湘又克岳阳，接着夺取长沙、湘阴，可谓战功赫赫。直到这时，段祺瑞仍然没把吴佩孚放在眼里。在吴佩孚攻下长沙之后，段祺瑞任命其亲信张敬尧为湖南督军兼省长，而张敬尧入湘后连吃败仗，这让卖命苦战连打胜仗的吴佩孚愤愤不平。

但段祺瑞完全没有注意到吴佩孚的反应，而是急电曹锟饬令吴佩孚继续追击湘粤桂联军，直捣两广。吴佩孚撤出长沙后，于4月末一举攻克衡阳。捷报传来，段祺瑞欣喜若狂，再次命令吴佩孚继续南下，扫平两广。

这时，段祺瑞第一次感到武力统一全国已稳操胜券。岂料，吴佩孚在这个时候却不买账了！徐树铮带来的一封电报将段祺瑞从天堂推向了地狱，电报云：吴佩孚按兵不动，第三师全体大罢兵！

段祺瑞盯着电文足有一刻钟，然后“啪”地拍了桌子，一声怒吼：“他为什么要罢兵？”吼过之后，段祺瑞颓然坐在椅子上，直到这时他才意识到，慢待了吴佩孚这个武力统一的关键人物。徐树铮似乎也明白过来，两人赶紧商量补救措施。但是为时已晚，无论段祺瑞如何安抚曹锟、吴佩孚，吴佩孚均不买账，而且很快与南军达成停战协议，气得段祺瑞暴跳如雷。

冯国璋下台后，曹锟、吴佩孚成为直系领袖，开始酝酿反皖倒段战争，矛头直指徐树铮及安福系。1920年5月，吴佩孚开始撤防北上， 6月中旬，直军全部抵达中原，并在郑州到保定的京汉铁路沿线部署兵力。吴佩孚此举不仅宣告段祺瑞的“武力统一”政策彻底破产，同时预示着直皖大战不可避免。

段祺瑞对此早有准备，其心腹徐树铮早在徐世昌上台之初便出任西北筹边使、西北边防军总司令，在西北地区大练“边防军”，如今已重兵在握，成为名副其实的“西北王”。其边防军无论在数量上还是在装备上，都远远胜过直军，倘若直、皖一对一较量，段祺瑞自信稳操胜券。

在此情况下，被请入关的奉军便成为了直皖战争的关键砝码，奉军偏向任何一方，都有可能导致另一方的失败。6月下旬，张作霖翩然入京，前往团河拜访段祺瑞，信誓旦旦地表示：严守中立。段祺瑞对此深信不疑，因为他知道张作霖素与曹锟不和，但是他万万没有想到，张作霖与徐树铮有着更深的嫌隙。

秦皇岛劫械之后，张作霖与徐树铮的关系曾一度十分热络。为了感谢徐树铮，张作霖任命徐为关内奉军副司令代行总司令职务。然而好景并不长，在对西南方面的作战中，徐树铮将奉军放到最前线充当替死鬼，引起张作霖的不满。后来张作霖调查到徐树铮以奉军名义代领军费335万元，用来编练自己的军队，气得破口大骂，当即下令免去徐树铮的副司令一职，两人从此势同水火。

直皖战争爆发前，张作霖再次来到北京。7月5日，徐树铮专程拜访张作霖，不仅态度异常诚恳，而且对张作霖反省了自己以前的所作所为，重新取得了张作霖的信任。随后，徐树铮邀请张作霖到团河开会，指导皖系下一步军事行动，张作霖欣然答应。

7月7日，就在张作霖到达团河之前，徐树铮告诉段祺瑞一个惊人的计划：在宴席上行刺张作霖！段祺瑞听后大吃一惊，立刻严厉劝阻：

“又铮，不能胡来，会引发事变的！”

“顾不了那么多了，万一直奉联手，皖系就是死路一条，不能坐以待毙！”

“不行，我们应该从长计议 ”

“你若是不忍心，一会儿躲别处去，我一个人应付得来。”

段祺瑞知道徐树铮对自己一片忠心，不想与他争执。而且张作霖就要进门，争论下去无益。但段祺瑞实在不忍心杀掉张作霖，尤其是把人家引到自己府邸，然后杀掉，传出去舆论上都不好交代，何况段祺瑞最厌恶这种背后捅刀子的事，在他看来不符合军人的做派。

宴席开始后，徐树铮对张作霖热情招待，执礼甚恭。段祺瑞为了提醒张作霖，一直铁青着脸，一言不发，冷冷地瞪着张作霖，张作霖震惊之余顿时明白过来，随后便故意大口地喝酒，然后由侍卫搀扶着到外边呕吐，借机逃走了。徐树铮得知张作霖已逃，顿足长叹：“完了！放虎归山，后患无穷。妇人之仁会坏了大事！”

7月14日，直皖战争在京津一带爆发。皖系以五个师四个混成旅组成定国军，段祺瑞任总司令，徐树铮任副总司令兼参谋长。直系以一个师九个混成旅组成讨逆军，以曹锟为总司令，吴佩孚为前敌总司令兼西路总指挥。尽管皖军在人数与武器装备上优于直军，但徐树铮完全不是吴佩孚的对手，吴佩孚不仅作战勇猛，且战术多变，使皖军连吃败仗。

17日，严守中立的奉系张作霖果然对皖系宣战，直奉联合攻皖，使得皖军腹背受敌，失败已成定局。

19日，直皖战争旋即结束。徐树铮被悬赏10万元通缉，走上四处流亡之路。边防军在如此短的时间内一败涂地，令段祺瑞痛心疾首。家人和亲信下属劝他去天津避避风头，他暴躁地大喊：“我哪里也不去！我倒要看看他们能把我怎么样！”

曹锟、张作霖自然不能把段祺瑞怎么样，而且两人都先后派代表到段府慰问，吴佩孚也摈弃前嫌，亲自登门拜见段祺瑞，并以“老师”相称。此后段祺瑞一直住在北京，直到1922年2月才返回天津居住。

直皖大战使皖系根基动摇，元气大伤。段祺瑞时年55岁，有人断言他从此将以在野之身终老此生。岂料几年后，段祺瑞再次咸鱼翻身，走上政坛。

直奉联合倒皖后，很快因利益之争决裂，并于1921年4月爆发直奉战争，结果奉军大败，退出关外。吴佩孚控制北京政府后，重走段祺瑞的老路：武力统一。如此一来，直系的对手除了皖系、奉系以外，又增加了西南方面的势力。

段祺瑞虽然在直皖战争中元气大伤，但受损的主要是徐树铮的边防军和安福系，皖系在沪、浙、皖、鲁等地尚有一定势力，所以作为北洋元老的段祺瑞，在军中仍有很大影响。于是，逃亡中的徐树铮又开始为段祺瑞重掌政权四处奔走，很快与南方的孙中山、东北的张作霖组成“反直三角同盟”。

1924年9月，第二次直奉战争爆发，双方出兵达40余万，为北洋军内战史上用兵数量之最。战争一开始直军便处于劣势，而直军第三军司令冯玉祥战场倒戈，班师回京发动北京政变，囚禁贿选总统曹锟，给了吴佩孚致命一击。

然而，吴佩孚在回救北京失败，前线亦因主帅离去迅速溃败之后仍不死心，一面率残部固守杨村、北仓等地，一面等候江苏督军齐燮元、湖北督军萧耀南驰援。岂知，段祺瑞早已指使山东、安徽等地皖军，切断了江苏援兵通往京津的道路；湖北通往京津之路也被阎锡山所部与冯玉祥所部封锁。而此时，冯玉祥正在调集军队向杨村、北仓等地包抄而来，准备一举歼灭吴佩孚残部。

值此危急时刻，段祺瑞动了恻隐之心。吴佩孚所率直军主力第三师其前身乃袁世凯的精锐部队北洋第三镇，段祺瑞曾任第三镇统制。于是，段祺瑞以第三师老师长的身份给吴佩孚修书一封，劝吴佩孚放弃抵抗，“速离去，否则被擒耳”。

当时很多人认为，段祺瑞此举是为回报皖系战败后吴佩孚的礼遇之恩，也有人认为段祺瑞吃斋念佛慈悲为怀，其实也是性格使然，段祺瑞脾气暴躁刚愎自用，但却心地善良，犹如当初放走张作霖，这也是他在北洋集团中落下好人缘的重要原因。

吴佩孚到天津后曾给段祺瑞打过一个电话，说准备将部队开进租界以引起外国插手干涉。段祺瑞说：“你是中国最优秀的军人，为什么要引起国际问题呢？”吴佩孚听了连称“是”，当即由塘沽乘船逃走。