从此，李嗣源和他的“横冲都”名扬天下，威震四海。光化三年（公元900年）李嗣源又在邢州青山（今河北邢台西北）大败后梁名将葛从周，战场上李嗣源身先士卒，冲锋陷阵，身中四箭，鲜血染红了征衣。
李克用死后，李存勖袭晋王位，与后梁大战于柏乡（今属河北）。面对气势强盛的梁军红、白两马队，许多将士心生怯意。李嗣源却笑道：“他们这是虚有徒表。明天就会归我们所有了。”战斗中他横枪跃马，率领100名精锐骑兵像黑色的闪电冲入了梁军的白马阵中，生擒二骑校而回。于是，晋军士气大振，大败梁军，斩杀敌人无数。他因功而被任为代州（今山西代县）刺史。
在随后讨伐幽州刘仁恭、契丹、后梁的战中，李嗣源也是屡建奇功。几乎每次大的战役，都有李嗣源骁勇的身影。同光元年（公元923年），李嗣源欣然领命奇袭郓州（今山东东平西北），俘虏了梁将王彦章，接着，李嗣源亲率2000铁骑轻取梁都开封。梁末帝自杀，梁亡。李存勖进入开封后，喜不自禁，激动地说：“朕有天下，全赖你们父子血战之功，以后朕与你共享天下。”遂拜李嗣源为中书令，次年六月，又加封他为蕃汉内外马步军总管，兼任汴州节度使。
李存勖当了皇帝不久，就变得昏庸起来，他宠信宦官、伶人，对昔日的功臣宿将们妄加猜疑。郭崇韬、朱友谦被冤杀后，李嗣源也被猜忌，好几次险些被杀。同光四年（公元926年），魏州发生兵变，在官军接连失败的情况下，李存勖无奈启用李嗣源，命他率兵征讨叛军。不料刚到魏州城下，所部也发生哗变，与魏州叛军会合，共同拥戴李嗣源为主。李嗣源原本并无反意，遂借口出城召集各路散兵，才得以脱身出城。出城后，他本想回洛阳向李存勖言明心迹，但安重诲、石敬瑭等人都劝他自立。李嗣源权衡再三，同意了他们的意见，遂命石敬瑭为先锋，向南进军，自己随后领军向洛阳进发。