至正二十六年（1366年）八月二日，命徐达为大将军，常遇春为副将军，率师20万大军出征讨伐张士诚。在出发之前，朱元璋问徐达、常遇春，在攻取平江、湖州问题上，“尔等此行，用师孰先？”常遇春主张直捣平江。他说：“逐枭者必覆其巢，去鼠者必熏其穴。此行当直捣平江，平江既破，其余诸郡可不劳而下。”徐达朱元璋则说：“不然。士诚起自盐贩，与张天骐、潘原明辈皆强梗之徒，相为手足。士诚穷蹙，天骐辈俱死，必并力救之。今不先分其势，而遽攻姑苏，若天骐出湖州，原明出杭州，援后四合，难以取胜。莫若先攻湖州，使其疲于奔命，羽翼既披，然后移兵姑苏，取之必矣。”于是下令常遇春攻打湖州，东吴右丞张天骐兵败坚守。张士诚派司徒李伯升前去支援。又派大将吕珍、朱暹及其五太子（士诚养子，梁姓）率兵六万增援，驻扎在湖州城东之旧馆。当时徐达、常遇春等分兵住扎在东阡镇南姑嫂桥，连筑十垒，用以（断）绝旧馆之援。张士诚知大事不妙，亲自领兵从平江来救，在皂林被徐达军截击，打败。九月，张士诚派遣徐志坚以轻舟出击东阡镇，想攻姑嫂桥，常遇春命勇士乘划舟数百艘以突击之，擒获徐志坚，俘虏2000余人。常遇春纵火焚烧了东吴来援的其他水师船械。十月，徐达攻打升山水寨，旧馆，吕珍、朱暹及五太子都以旧馆投降西吴，湖州四面也被围困。十一月，李伯升、张天骐以湖州投降。同月，朱元璋的另一支大军李文忠部进围杭州，东吴守将潘天明以杭州出降。十一月二十二日，李文忠攻绍兴，守将李思忠投降。华云龙进攻嘉兴，守将宋兴投降。至该年底，朱元璋军已顺利地占据了东吴的广大地区，取得第二阶段的重大胜利，遂进兵围攻平江。张士诚困守平江，孤立无援，陷于困境之中难以抵抗了。
当年十二月，徐达大军已围困平江，逼迫张士诚投降，但张士诚坚守平江城，拒不投降。平江围攻战，一直延续了10个月之久。
先是，朱元璋军的诸将围困平江，各有分工：徐达部攻葑门，常遇春部攻虎丘，郭子兴部驻娄门，华云龙部驻胥门，汤和部驻阊门，王弼部驻盘门，张温部驻西门，康茂才部驻北门，耿炳文部驻城东北，仇成部驻城西南，何文辉部驻城西北，四面筑城围困，又架木塔，筑敌楼三层，下瞰城中，每层设弓弩火铳，并用襄阳炮攻城。城中十分震恐。但平江城坚不可摧，东吴军只有莫天仍然占据无锡，为张士诚声援。徐达俘虏了东吴部将莫天的将领杨茂，徐达释放了他并任用而用之，使其出入于张、莫之间，尽得东吴内部虚实。张士诚长久困守平江。至正二十七年（1367年）四月，朱元璋亲自致书劝降，张士诚予以拒绝。六月，张士诚决定率众突围，觇城左方，则阵容严整，不敢突击，转至盘门，却被常遇春截住归路，双方交战许久，仍不分胜负。士诚遣兵千余援助，又亲自出兵山塘来援，被常遇春击败。张士诚马惊落水，几乎被淹死，拼死挣扎，逃回了平江城，继续困守孤城。东吴军在城中用木石作飞炮，还击西吴军。
九月八日，徐达督将士攻破葑门，常遇春亦破阊门新寨，率众渡桥，直逼城下。东吴枢密唐杰登城迎战，兵败投降。东吴将官周仁、潘元绍、徐义、钱参政等相继投降。东吴军溃。徐达军攻入平江城，平江城破。张士诚及副枢密刘毅收余兵二、三万人在万寿东街展开了激烈的巷战，最后兵大败。张士诚仓皇逃入室中自缢，被人救下后，押至应天。张士诚见朱元璋时，闭目不语。后被乱棍打死。张士诚从起兵到失败一共14年最终为朱元璋所败。平江城攻下后，朱军得城中兵民二十余万。不久，改平江为苏州府。至此，张士诚创建的的东吴灭亡，朱元璋的实力得到了扩充。
降服方国珍
元至正二十七年（1367年）九月，就在朱元璋攻下平江的前夕，便派参政朱亮祖率领马步舟师，向方国珍盘据的浙东地区发起进攻。
方国珍系浙东台州黄岩人，至正八年（1348年）起兵，劫掠沿海州县，元兵多次讨伐，都未能平息。至正十二年（1352年）虽然接受元朝所封官职，但实际上仍拥兵自守，不听元朝调遣。元朝也因四方多敌，不与管辖。不久，方国珍将叛元，割据温州、台州、庆元等路。五年之内，朱元璋起兵濠州，张士诚起兵高邮，陈友谅起兵蕲、黄、方国珍割据庆元，江南呈现出了群雄割据一方的混乱局面。
方国珍早在至正十九年（1359年）三月，遣使向朱元璋通好，献黄金五十斤，白金百斤，金织文绮百端，同时愿以其子为质，但拒绝接受朱元璋授给他的行省平章的官衔，并继续为元朝海运粮饷，接受元朝的官封。至正二十五年（1365年）九月，元朝又封方国珍为淮南行省左丞相，分省庆元。至正二十六年（1366年）九月，元朝又任命方国珍为浙江行省左丞相，封其弟方国璋、方国瑛、方国珉以及其子方明善俱为平章政事。方国珍虽然用三郡献于之地，但实际上并没交出土地，及元多次加封官位，方国珍更是骄横，据有濒海诸郡而不肯听命元朝。朱元璋也曾遣使招降，被方国珍拒绝。
至正二十七年（1367年）九月，朱元璋命朱亮祖进军台州，驻守台州的方国珍弟方国瑛被战败，士卒多逃亡，朱亮祖进行突围，方国瑛元力支撑应战，以巨舰载妻子，乘夜逃到黄岩，朱亮祖入台州城。十月，进兵黄岩，方国瑛从黄岩又逃到海上。十月十日，朱元璋又命汤和为征南将军，吴祯为副将军，率领常州、长兴、宜兴、江、淮诸军，进攻方国珍占据的庆元。临行前，朱元璋对诸将说：“尔等奉辞伐罪，毋纵杀戮，当如徐达下姑苏，平定安集，乃吾所愿也。”
十一月，吴祯率舟师，乘着潮夜，进入曹娥江，夷埧通道，出奇不意抵达军厩。偶尔听到了士兵要投降的话语，方国珍见势不妙，率部下已遁入海，吴祯勒兵猛追。汤和兵由绍兴渡过曹娥江，进驻余姚，其知州李栖和上虞县尹沈煜投降。遂进兵庆元城下，攻其西门，院判徐善等率领父老迎降。方国珍乘海舟遁，追击大败方国珍。汤和占领定海、慈等县，得军士3000人，战船60艘，马200余匹，银6900余锭，粮354600石，满载而归。
朱亮祖自黄岩进兵温州，列阵于城南七里。方国珍命其子方明善率兵抵抗，被朱亮祖击败，破其太平寨，逼近城下，余兵溃散，奔入城中。接着，朱亮祖命部将汤攻克明攻西门，徐秀攻东门，柴虎将专管游兵应策，黄昏时分，克其城，方国瑛等逃走。朱亮祖遂率舟师会吴祯，共同袭击方明善于盘屿岛，夜三更攻克，大获战舰和军马。
方国珍虽然逃入海岛，朱元璋。十一月十七日，任廖永忠为征南副将军，率师自海道截击，会合汤和等兵共同讨伐。当方国珍军知道自己被朱元璋军夹攻，其部将多已投降，诸郡县亦相继归顺，方国珍对此大为恐惶不安。当时汤和遣人持书招降，国珍不得已，遣郎中承广、员外郎陈永请求投降，又遣子方明克、方明则、从子方明巩等交出省院及诸银印、铜印26枚、银10000两、钱2000缗于汤和。十一月二十四日，朱亮祖兵至黄岩，方国珍及其侄子方明善率家来降，接着遣其子方明完呈表谢罪。不久，汤和送方国珍到应天。至此浙东平息，两浙地区尽为朱元璋所占。
夺取福建
在元末农民起义中，福建地区分别为两股地主武装所占据。一股以陈友定为首，他割据以福州为中心的广大地区；另一股以色目人赛甫丁、阿米里丁为首，割据着以泉州为中心的县数县。
元至正二十七年（1367年）十月，朱元璋灭东吴之后，随即派胡廷瑞为征南将军，出兵福建，打算消灭东南沿海最后一般据势力。
先是，至正十二年（1352年），海盗在福建沿海兴起，势及汀州一带。陈友定系福建福州市福清人。曾充任明溪驿卒，是本县的一大土霸。延平、邵武等县的红巾军起义之时，元朝汀州府判蔡公安招募地主武装守城，陈友定前去应募，他随从官军镇压汀州、延平等地的起义农民，并被任为清流县尹。
至正十九年（1359年），陈友谅命其部将康泰攻击邵武，邓克明侵犯汀州，陈友定以总官全力抵御，双方大战于黄土寨，陈定定尽降其部众。元朝认为他击退陈友谅军有功绩，因此升任他为行省参政。
至正二十一年（1361年），邓克明又侵犯福建汀州，被陈友定再次击败，遂置省于汀州，升为左丞。至正二十二年（1362年）夏，元朝命陈友定守汀州。陈友定兵力大增，势力也大为扩充，郡县仓库悉入其家，元行省平章燕只不过拥虚名虚位。
至正二十四年（1364年），元朝在延平置分省，任陈友定为平章政事。陈友定接受元朝官封，但实际上割据延平，独霸一方。
泉州色目人赛甫丁、阿米里丁在至正十七年（1357年）反元起义。至正二十二年（1362年）五月，曾北攻福州，被元军击败，余部在兴化等地烧杀抢掠。至正二十六年（1366年），元朝福建行省命陈友定领兵征讨。赛甫丁部将阿巫那等攻打兴化，被陈友定击溃。陈友定乘胜南攻泉州，擒获阿巫那等，平定兴化、泉州两路。陈友定当时兵强马壮，接着攻击占据着漳州的罗良，又攻下潮州。福建八郡之地尽为陈友定所占据。
陈友定部曾于至正二十五年（1365年）在处州与朱元璋部交战。同年四月，朱元璋部参军胡深进攻建宁之松溪，攻克后俘获陈友定守将张子玉，余众奔于崇安。胡深建议发广信、抚州、建昌三路合兵攻之，顺便攻取福建八郡福建八郡。朱元璋同意胡深之言，派遣广信卫指挥朱亮祖，由铅山出发，遣建昌左丞王溥由杉关出发，会合胡深进兵攻击。六月，朱亮祖部攻克崇安、建阳，遂进攻建宁，大兵驻屯于城下。朱亮祖，胡深合军攻打建宁，建宁守将阮德柔以精兵四万驻扎在锦江，胡深军攻破建宁二门之后，又被阮德柔军重重包围，并遭到阮德柔精兵的伏击，胡深被抓，后被陈友定所杀。朱元璋得知胡深这位有文才武略的骁将之死，十分痛惜，遣使赐祭，并追封为缙云郡伯。
至正二十六年（1366年）八月，元朝得知陈友定打败了胡深，就提升陈友定为福建行省平章政事，兼守八郡。此时，陈友定拥兵数万人，他率兵攻取诸县，使得远近郡县纷纷土崩瓦解，不敢于他对抗陈友定成了控制整个福建的一股强大的割据努力，并成为了朱元璋统一南方的最后一大障碍。
朱元璋决心消灭割据福建的强敌陈友定。至正二十七年（1367年）十月，任中书平章胡廷瑞为征南将军，江西行省左丞何文辉为副将军，率大军进取福建。临行前夕，朱元璋对胡廷瑞当面传授机宜，并表示：“克定之功，全赖于汝。”对他寄予了后望。十一月，胡廷瑞师度过杉关，略光泽县。十二月，连下邵武、建阳。
为了能有把握的夺取福建，朱元璋在方国珍投降后，即命征南将军汤和、副将军廖永忠率领水师自海道攻取福州。同时又命李文忠部从浦城进攻建宁，三路夹击，以确保取胜。
十二月二十八日，汤和军攻克福州。初，陈友定环绕福州城外，皆筑堡垒，以备防守，每五十步再筑一台，用兵严守之。当听到胡廷瑞军（已）度过杉关，决定留同佥赖正孙、副枢谢英辅、院判邓益以二万兵防守福州，陈友定自己率领精锐死守延平。汤和及廖永忠、吴祯等自明州，乘东北风，快马加鞭赶至福州五虎门，驻师南台，派人入城向守城官，但被元朝平章曲出杀害。大兵登岸，即将围城之际，曲出领兵出南门抵抗，被汤和部将谢德成击败，军队溃散，曲出入城坚守。是夜，汤和兵大举攻城，福州城被攻破，守将项正孙、谢英辅、邓益以及曲出等有的逃走，有的投降。
至正二十八年（1368年）正月，元朝兴化守将叶万户弃州而逃，汤和遣都指挥俞良辅前往防守兴化。就在这时，莆田等十三县都投降了汤和，汤和开始进攻延平。汤和先遣使招降陈友定，友定不但不降，反而大会诸将，取血置酒慷慨而饮以盟诸将并发誓，誓以死报效元朝。汤和大军到达延平，两军隔水列阵。陈派一军渡水，攻其西门。陈友定出师不利，回到城中对诸将说：“敌千里远斗，气锐，慎毋战；战徒杀吏士耳。吾墉山堑壑，蓄犀器，饱士，为持久计困之。”遂拒城死守。围城十日之后，城中军局火炮声发，汤和兵疑有内应，乘机急攻。陈友定见大势已去，在城中服毒自杀，结果未能如愿。汤和兵入城，抓陈友定到应天，处死。不久，泉州、漳州、潮州郡县相继投降，福建全境尽在朱元璋所控制。
削平两广
明军攻占中原之前，南方两广地区仍被元朝占据。广州军阀何真在红巾军起义刚开始的时候，组织“义兵”镇压起义，很有功绩，因此被元朝擢升为广东道宣慰司都元帅。当时南海三山民邵宗愚攻陷广州，被何真又击败，并领义兵收复了广东。元朝立江西分省于广东，升任何真为广东行省参知政事，后又升为左丞，何真成了割据南方的军阀之一。但广西地区仍在元朝行省平章也儿吉尼的统治之下。
