公元1366年（元·惠宗至正二十六年），進(jìn)入江浙東部地區(qū)，并于第二年奪取了平江（今江蘇省蘇州市），滅了張士誠(chéng)，降方國(guó)珍，江南從此基本上被朱元璋統(tǒng)一。根據(jù)明代的排名，論軍功，常遇春、馮勝僅次于徐達(dá)。這一年，朱元璋拜徐達(dá)為大將軍，常遇春為副將軍，馮勝等為將，率25萬(wàn)大兵進(jìn)軍中原。
公元1368年（明·洪武元年），朱元璋在南京稱帝，當(dāng)年，其北進(jìn)中原的將士，已經(jīng)攻下了汴梁（今河南省開封市）、洛陽(yáng)至此整個(gè)中原地區(qū)被朱元璋獲得。
當(dāng)年馮勝取潼關(guān)，常遇春進(jìn)入山東并率先取得德州，形成對(duì)元大都的包圍，不久，元政府被迫北遷，明軍攻下元大都。元朝到此滅亡。論軍功常遇春和馮勝當(dāng)數(shù)一二。
北遷的元政府從此在歷史中叫北元，公元1369年（明·洪武二年），徐達(dá)、常遇春、馮勝等奉命西征，敗元將擴(kuò)廓帖木兒，攻占了大同、太原。同年常遇春出北平（今北京），敗元將江文清于錦州，敗也速于全寧（今內(nèi)蒙古翁牛特旗），占領(lǐng)開平。元惠帝北上到應(yīng)昌（今內(nèi)蒙古克什克騰旗達(dá)來(lái)諾爾湖西岸）。至此常遇春凱旋回師，但途中病卒，朱元璋命厚葬于京師（今南京），開國(guó)功臣中位列第二，太祖盛贊：“計(jì)其開拓之功，以十分言之，遇春居其七八”（《皇明開國(guó)功臣錄·常遇春》）。
同年，馮勝以右副將軍從徐達(dá)平陜西。洪武三年，馮勝以右副將軍從大將軍徐達(dá)出西安，直取定西（今甘肅省定西縣），大敗北元驍將擴(kuò)廓帖木兒，太祖“誥詞謂勝兄弟親同骨肉”（《明史》卷129《馮勝傳》）
公元1372年（明·洪武五年），徐達(dá)、李文忠、馮勝奉太祖命率15萬(wàn)大軍分三路出擊北元。結(jié)果，中路徐達(dá)兵敗，東路李文忠受重挫，惟有西路軍馮勝所向披靡，全勝而歸。
