作为西突厥旁支的沙陀族，从唐太宗时就开始效忠唐朝，世代守土拓边。沙陀人李克用的父亲朱邪赤心因为镇压唐末庞勋领导的农民起义有功而被赐名为李国昌。骁勇善战的李克用15岁时就开始跟随父亲南征北战，一箭双雕的骑射功夫更是威震西北，在军中被誉为“飞虎子”。
黄巢攻占长安以后，唐僖宗召当时任雁门节度使的李克用率兵来镇压起义军，李克用率领由沙陀军队与鞑靼骑兵组成的35000人的联军打败起义军，率先攻入长安，时年28岁的李克用因此被封为河东节度使，后又加封为晋王。当黄巢从长安退到河南的时候，兵力还很强。有一次，黄巢起义军攻打汴州，宣武节度使朱温（即朱全忠）向李克用求救。李克用打败起义军后，朱温假意将李克用请入汴州盛情款待，想借机除掉他。入夜后，朱温派军队围攻李克用居住的上源驿，酒醉的李克用靠着几名卫士的拼死保护，在突如其来的暴雨和电闪雷鸣之中逃出了汴州。从此之后，以太原为根据地的李克用和以汴州为根据地的朱温两大军事集团反目成仇，开始了长达40年的争战。
公元908年，与朱温争斗了20多年的李克用突然毒疮发作病逝。去世前，李克用向将领们托孤说：“我的儿子志向远大，必定能成就我的事业，你们要好好辅佐他。”然后，把儿子李存勖叫到床边，说：“朱温是咱家的仇家；刘仁恭是我保举上去的，后来他反复无常，投靠朱温；契丹曾经跟我结为兄弟，结果撕毁盟约。这几口气没出，我死了也闭不上眼睛。”说着，他吩咐侍从去拿3支箭来，亲手交给李存勖说：“这3支箭留给你，你要记住3个仇人，给咱家报仇。”李存勖跪在床边含着眼泪，接过箭，表示一定牢记父亲的嘱咐。
