从此,李嗣源和他的“横冲都”名扬天下,威震四海。光化三年(公元900年)李嗣源又在邢州青山(今河北邢台西北)大败后梁名将葛从周,战场上李嗣源身先士卒,冲锋陷阵,身中四箭,鲜血染红了征衣。
李克用死后,李存勖袭晋王位,与后梁大战于柏乡(今属河北)。面对气势强盛的梁军红、白两马队,许多将士心生怯意。李嗣源却笑道:“他们这是虚有徒表。明天就会归我们所有了。”战斗中他横枪跃马,率领100名精锐骑兵像黑色的闪电冲入了梁军的白马阵中,生擒二骑校而回。于是,晋军士气大振,大败梁军,斩杀敌人无数。他因功而被任为代州(今山西代县)刺史。
在随后讨伐幽州刘仁恭、契丹、后梁的战中,李嗣源也是屡建奇功。几乎每次大的战役,都有李嗣源骁勇的身影。同光元年(公元923年),李嗣源欣然领命奇袭郓州(今山东东平西北),俘虏了梁将王彦章,接着,李嗣源亲率2000铁骑轻取梁都开封。梁末帝自杀,梁亡。李存勖进入开封后,喜不自禁,激动地说:“朕有天下,全赖你们父子血战之功,以后朕与你共享天下。”遂拜李嗣源为中书令,次年六月,又加封他为蕃汉内外马步军总管,兼任汴州节度使。
李存勖当了皇帝不久,就变得昏庸起来,他宠信宦官、伶人,对昔日的功臣宿将们妄加猜疑。郭崇韬、朱友谦被冤杀后,李嗣源也被猜忌,好几次险些被杀。同光四年(公元926年),魏州发生兵变,在官军接连失败的情况下,李存勖无奈启用李嗣源,命他率兵征讨叛军。不料刚到魏州城下,所部也发生哗变,与魏州叛军会合,共同拥戴李嗣源为主。李嗣源原本并无反意,遂借口出城召集各路散兵,才得以脱身出城。出城后,他本想回洛阳向李存勖言明心迹,但安重诲、石敬瑭等人都劝他自立。李嗣源权衡再三,同意了他们的意见,遂命石敬瑭为先锋,向南进军,自己随后领军向洛阳进发。