元至顺元年，常遇春生于淮西怀远的一户农家。彼时淮河沿岸水患连年，元廷赋役沉重，少年人不甘心困死于垄亩之间，便靠着给武师打杂换得学武的机会，待到成年时已生得体貌奇伟，长臂善射，各类兵器皆能运用自如。乱世之中他最初投身绿林，却很快发觉首领刘聚只知劫掠，全无定天下的志向，至正十五年，他在和州主动投奔朱元璋，恳切请求担任大军的前部先锋。
采石矶一战是常遇春在朱元璋军中的成名之役。当时红巾军准备南渡长江，却被江岸列阵的元军死死拦住，船只离岸数尺便难以靠岸。常遇春驾一叶轻舟直冲敌阵，借元兵抓戈的力道纵身跃上岸边，在密集的敌阵中左右冲杀，元军防线瞬间被撕开缺口，后续大军趁势登岸，一举攻克采石与太平，朱元璋由此打开了渡江之后的局面。
此后十余年间，常遇春几乎参与了朱元璋阵营所有决定命运的关键战役。龙湾之战中他率三万伏兵突袭陈友谅的主力，借着江水退潮的时机焚毁汉军百余艘巨舰，彻底扭转了应天的危局；鄱阳湖水战里，张定边直冲到朱元璋座船近前，情势万分危急之时，常遇春一箭射伤敌将，随后封锁湖口围困陈友谅，为全歼汉军主力立下首功。讨伐张士诚时他先在旧馆击溃吴军援军，再围困平江数月，最终破城俘获张士诚，彻底平定江南。
洪武元年，常遇春以副将军身份随徐达率二十五万大军北伐，沿运河北上横扫中原，在洛水之畔单骑突入五万元军阵中，明军趁势跟进大获全胜，随即攻克大都，元顺帝仓皇北逃。次年他又率军出塞，攻克北元的上都开平，俘获宗王将士万余人，彻底解除了塞外的军事威胁。可就在班师行至柳河川时，盛夏连日奔袭的他满身大汗，贸然卸下厚重铁甲迎向塞外傍晚的凉风，突发暴疾猝然离世，年仅四十岁。
这位一生自称能将十万众横行天下的“常十万”，最终没能等到大明天下彻底安定的时刻。朱元璋闻讯后为之痛哭，下诏追封他为开平王，配享太庙。他从渡江时的先锋步卒到横扫南北的开国名将，用十四年的戎马生涯，把每一次冲锋都刻进了明王朝的开国史册里。