公元1355年，郭子兴病死，韩林儿任命郭子兴的儿子郭天叙为都元帅，部将张天祐为右副元帅，朱元璋为左副元帅。这年九月，在攻打集庆的时候，郭天叙、张天祐被元军杀害，这么一来，朱元璋当了都元帅，郭子兴的部队全部归他指挥。
当时江淮一带还有徐寿辉、张士诚、双刀赵和李扒头等好几支红巾军，大家都想扩大自己的地盘，增强自己的力量，因此有时也互相算计、互相争斗，朱元璋当了左副元帅后，想从和州（在今安徽）渡江攻打采石、太平（在今安徽），然后进攻集庆。于是，朱元璋吞并了双刀赵和李扒头经营了好几年的巢湖水军。由此，朱元璋势力大增，把进军矛头指向集庆。
公元1356年，朱元璋进行了充分的准备之后，亲自指挥攻城。起义军水陆大军几十万人云集集庆，浩浩荡荡，旌旗招展，气势非常壮观。吓得元朝守将福寿紧闭城门，不敢出战。最后，起义军攻破集庆，福寿来不及逃跑，被乱刀砍死。朱元璋进入集庆，把集庆改为应天府，表“上应天命”之意。
朱元璋善于利用别人来保护和发展自己。当北方刘福通他们力量很强时，他接受了小明王韩林儿的任命，承认宋政权的龙凤年号，处处打着宋政权的旗号办事，使自己既能受到刘福通红巾军的保护，又能保持相对独立，不受别人节制。刘福通大举北伐时，朱元璋抓住时机攻占了集庆，以这里为中心建立自己的根据地。在以后的3年里，他又逐步占领常州、宁国（今宣城）、扬州、处州（今丽水）等地，势力遍及江淮，到后来，连退守安丰的刘福通和韩林儿也不得不向朱元璋求助了。
