消灭陈友谅后，朱元璋在应天府自称吴王，设立百官，设置中书省

元至正二十三年（公元1363年 ）八月二十六，陈友谅在鄱阳湖身中流矢而死。

元至正二十四年（公元1364年 ）正月，朱元璋在应天府被群臣劝进为吴王。

朱元璋模仿元朝的官制，设立百官，设置中书省，废置带有地方机构意味的江南行中书省。

规定官员品级，明确职责权限，中书省左右相国均为正一品，平章政事从一品，左右丞正二品，参知政事从二品，左右司郎中正五品，员外郎正六品，都事、检校正七品，照磨、管勾从七品；参议府，参议正三品，参军、断事官从三品，断事经历正七品，知事正八品；都镇抚司都镇抚正五品；考功所考功郎正七品。

任命李善长为右相国，徐达为左相国，常遇春、俞通海为平章政事，汪广洋为右司郎中，张昶为左司都中。

此时两位相国的地位，与元制一样，右在左上，右相国在左相国之上，因此，李善长在徐达之上。

元至正二十六年（公元1366年 ）十二月，小明王韩林儿去世；于是朱元璋停止使用龙凤年号，以元至正二十七年（公元1367年）为吴元年。

元至正二十七年（公元1367年 ）十月，朱元璋下令改百官礼仪，与元制不同，左在右上，于是改原右相国为左相国，改改原左相国为右相国，其余官职全部依此变动，“命百官礼仪俱尚左，改右相国为左相国，左相国为右相国，余官如之”（《明太祖实录》）。

吴元年(1367年)改百官礼仪,以左为上,遂改原右相国为左相国。

中书省下设行中书省，作为地方机构。

朱元璋称王前，曾在浙东、江西设立江南行中书省下属的地方机构。

元至正十八年（公元1358年 ）十二月，朱元璋在婺州设立中书分省，又称为浙东行省。

元至正二十一（元1361年）正月，朱元璋被小明王封为吴国公。

元至正二十二年（公元1362年 ）二月， 朱元璋改中书分省为浙东等处行中书省，任命李文忠为左丞，统率衢州、处州、广信、严州、诸全的兵马。

元至正二十二年（公元1362年 ）正月，朱元璋接受陈友谅江西行省丞相胡挺瑞归降，令其仍担任原来的官职。不久，朱元璋接受陈友谅吉安守将孙本立投降，任命他为江西行省参政。

朱元璋称王后，先后设立两个行中书省。

元至正二十四年（公元1364年 ）二月，陈友谅的儿子陈理在武昌投降朱元璋。不久，朱元璋下令设立湖广行中书省，任命杨璟为参政。

同年七月，徐达、常遇春等人率军攻破左君弼占据的庐州路，朱元璋下令改庐州路为府，设立江淮行省，令平章俞通海总管行省事务，“命平章俞通海摄省事，以镇之”（《明太祖实录》）。江淮行省不久废置，“太祖甲辰年七月为府，置江淮中书行省於此，寻罢”（《明史·志·地理（一）》）。

元至正二十六年（公元1366年 ）九月，李文忠率军占领杭州。十二月，朱元璋废置浙东行省，在杭州设立浙江等处行中书省，任命李文忠为平章政事。

明朝洪武元年（公元1368年 ）正月，朱元璋在应天府登基称帝，国号大明，年号洪武；改左右相国为左右丞相，以李善长为左丞相，徐达为右丞相。