陈友谅是沔阳的一个渔夫的儿子，他本来姓谢，祖父招赘在陈家，因而随着姓陈。年少时念过书稍微懂些文理。有一个会看风水的人观察他家祖先的坟地，说“据风水的模式定当大贵”，陈友谅心里暗自高兴。曾经在县里当小吏，他不喜欢干。徐寿辉的军队起事，陈友谅去投奔他，在他的部将倪文俊那里当掌簿书的佐吏。
徐寿辉，罗田人，又名真一。以贩卖布匹为业。元朝末年盗贼蜂起，袁州的和尚彭莹玉用妖术和麻城的邹普胜聚众起事，以红巾为标记。他们因徐寿辉长相奇特，就推举他为首领。至正十一年（1351年）九月攻陷蕲水和黄州路，打败元朝的威顺王宽彻不花。于是就以蕲水为都城，立徐寿辉为皇帝，国号“天完”，建年号“治平”，以邹普胜为太师。没有多久，攻陷饶州、信州。次年（1352年）分兵四处出击，接连攻陷湖广、江西的诸多州县。接着又攻破昱岭关，攻下杭州。别将赵普胜等人攻破太平各路，声势大振。但是，徐寿辉没有远大的抱负，所得之地不能守住，第二年（1353年）被元军击败，徐寿辉逃脱。不久又兴盛起来，把都城迁到汉阳，被他的丞相倪文俊所控制。
至正十七年（1357年）九月，倪文俊图谋杀害徐寿辉，没成功，逃往黄州。当时陈友谅隶属于倪文俊，多次立下战功，当上了领兵元帅，就找了个机会杀死倪文俊，吞并了他的部队，自封宣慰使，不久称平章政事。次年（1358年），攻陷安庆，又攻破龙兴、瑞州，分兵攻取邵武、吉安。陈友谅本人率军攻入抚州。不久，又攻破建昌、赣州、汀州、信州、衢州。其时，长江以南只有陈友谅的兵力最强大。朱元璋攻下了太平，和陈友谅相比邻。陈友谅攻陷元朝的池州，朱元璋派遣常遇春攻取了池州，从此多次相互攻击。