文天祥比陈宜中年轻六岁，初名云孙，字宋瑞，一字履善。自号文山、浮休道人。江西吉州庐陵人，在孩提时，看见学宫中所祭祀的乡先生欧阳修、杨邦乂、胡铨的画像，谥号都为“忠”，即为此高兴，羡慕不已。说：“如果不成为其中的一员，就不是真正的男子汉。”曾在江万里主持的吉州白鹭书院读书，选中贡士后，换以天祥为名，改字履善。
他二十岁即考取进士，在集英殿答对论策。当时宋理宗在位已很久，治理政事渐渐怠惰，文天祥以法天不息为题议论策对，其文章有一万多字，没有写草稿，一气合完。宋理宗皇帝亲自选拔他为第一名。考官王应麟上奏说：“这个试卷以古事为借，忠心肝胆似铁石，我为陛下能得到这样的人才可喜可贺。”宝佑四年（1256年）中状元后再改字宋瑞。不久，他父亲逝世，回家守丧。
开庆初年（公元1259年），元军伐宋，宦官董宋臣对皇帝说要迁都，没有人敢议论说这是错的。文天祥当时入朝任命为宁海军节度判官，上书“请求斩杀董宋臣，以统一人心”。因不被采纳，自请免职回乡。政局多变，后来官至刑部侍郎。董宋臣升为都知，文天祥再次上书一一列举他的罪行，也没有回音。因此出外任瑞州知州，改迁江南西路提刑，升任尚书左司郎官，多次遭台官议论罢职。
文天祥多次被斥责，援引钱若水的例子，三十七岁时退休。咸淳九年（公元1273年），起用为荆湖南路提刑。因此见到了原来的宰相江万里。两人因白鹭书院而有师生之缘，江万里平素就对文天祥的志向、气节感到惊奇，同他谈到国事，神色忧伤地说：“我老了，观察天时人事应当有变化，我看到的人很多，担任治理国家的责任，不就是你吗？望你努力。”
咸淳十年（公元1274年），文天祥被委任为赣州知州。