但是陳友諒當時并未掌控天完國的政權，所以最先與朱元璋發生沖突的是張士誠，雙方從至正十六年（公元1356年）朱元璋攻克應天后，就沒消停過，大大小小打了上百仗，朱元璋對張士誠極為頭疼，自己只是占了點地盤，干嘛總和自己過不去，本來兵力已經不堪敷用，但屋漏偏逢連夜雨，同年六月，朱元璋的部將投降了張士誠，此時朱元璋做出了一個重要的決定。
他要和張士誠談判，并寫信給張士誠，大致內容是：我是貧苦農民，你是私鹽販子，大家都是苦人啊，干嘛非要打我呢，咱們兩家和平相處吧，時不時去串個門不是很好嗎。
朱元璋這樣做是因為他已經和徐壽輝開戰，兩線作戰非常不利于他，可張士誠也不是等閑之輩，看出了朱元璋的計謀，他回信給朱元璋，大意是：你是從哪里來的就滾回哪里去，我已經和徐壽輝約好，非滅了你不可。
談不攏，那就打吧
同年七月，張士誠大舉進攻朱元璋控制的鎮江，朱元璋早有準備，命令當時手下的王牌將領徐達和常遇春應戰，大敗張軍于龍潭，然后猛將常遇春一路打過去，到了第二年（1357年）攻克了常州，之后在攻克寧國的戰斗中，常遇春充分繼承了夏侯敦受傷不下火線的精神，身中三箭（貫通傷）仍然堅持作戰，又攻下了寧國。張士誠一敗涂地。
其實張士誠的軍隊戰斗力并不差，人數也多于朱元璋軍，但卻慘敗，從以上情況我們可以得出千軍易得，一將難求的結論。
常遇春
常遇春跟隨朱元璋的時間并不長，他于至正十五年（公元1355年）朱元璋攻克和州的時候才來投奔，雖然晚來，他卻一點也不客氣，開口就說，我到這里來就是當先鋒的，把先鋒印給我吧。
朱元璋見過的狂人不少，但從來沒有見過這么狂的，他很生氣的說：你小子不過是個吃不飽飯的難民，到我這里來混飯吃的，我怎么可能給你這樣的官位呢（明史記事本末）。常遇春卻笑著說：你等著看吧
他用行動證明了自己的實力。
在朱元璋攻克采石的戰役中，元朝軍隊在岸邊列陣，朱元璋的水軍無法靠近，看著干著急，正在此時，常遇春的船只經過，朱元璋頓時想起了他的話，對常遇春大喝道：小子，你不是要當先鋒嗎，現在是時候了！常遇春應聲奮勇向前，單槍匹馬持長戈向岸邊元軍刺去，元軍接住了他的長戈（遇春應聲，奮戈直前，敵接其矛），卻沒有想到常遇春的目的正是在此，他手握長戈順勢跳上了岸邊（這似乎是個撐桿跳的動作），連殺數人開辟了灘頭陣地，后面士兵一擁而上，占領了采石。
此戰后，朱元璋重新認識了這個叫常遇春的年輕人，并親自授予他總督府先鋒的官位。
常遇春是個天生的先鋒材料，他善于使用騎兵進行突破，選擇進攻位置準確，能冷靜判斷戰場形勢，除此之外，他還是一個武林高手，個人武藝也甚是了得，這一優點在后來起了極大的作用。
但他也有個致命的弱點，他嗜好殺戮，而且是最不道德的那種——殺降
古語有云，殺降不祥，從道義上說，對方已經投降，再動手似乎就不那么光彩，可他偏偏嗜好這個，這個嗜好也為朱元璋惹來了大禍。