曹操基本上统一北方后，紧接着就在冀州造玄武池，用来训练水军，积极做着南下的准备。诸葛亮把这个消息告诉了刘备，并要求秘密派人过江去探听虚实。刘备立即派了人去。
诸葛亮接着要筹划如何增强刘备的兵力。因为当时刘备只有数千名士兵，根本连荆州都无法守住，更不要说与曹操争霸天下了。他想到现在荆州的百姓人数并不少，但多是逃难至此，真正有户籍的人却不多，每逢遣兵发调都是当地有户籍的人，使得百姓们深感不公，抱怨不已。于是他就向刘备建议颁布命令，使那些没有户籍的流动人口自动申报寄居，再重新统计出精确的人数，以便于按照要求征收兵员。刘备立刻听从诸葛亮的建议下令，又招了几千人。诸葛亮每天早晚教他们练习阵法。在段时间内，便把军队由数千人扩大为数万人。
诸葛亮的政治才能使他更加受到刘备的尊重和信任，刘备曾感慨地对自己的部下说：“我得到孔明，就像是鱼得到水一样。”
这时的荆州内部，长久以来存在的争位矛盾激化了。荆州牧刘表有两个儿子，长子名琦，幼子名琮。刘表有一个非常受宠的继室蔡氏，蔡氏的哥哥蔡瑁是刘表的得力之臣，刘表事事都要仰仗蔡瑁。因此蔡家的势力很大。蔡氏经常在刘表面前称赞自己的亲生儿子刘琮而贬低刘琦，加上刘表本人又比较疼爱幼子，还亲自作主将蔡瑁的女儿许配给刘琮，因此刘琮在荆州的地位比刘琦还要高。为了让刘琮能名正言顺地继承刘表的位子，蔡氏一边在刘表面前说刘琦的坏话，一边暗中加紧残害他。为此，刘琦深感不安，他几次向诸葛亮请教自处之道，但是诸葛亮总是笑而不答。
一天，刘琦想了一个计策，把自己和诸葛亮单独关在一间阁楼上，然后命令手下将楼梯撤走。他诚恳地对诸葛亮说：“今日我们在此相聚，上不着天，下不着地，除了你我之外不可能有人听到我们的谈话。我恳求你，为我指点迷津。我很惶恐，不知所措。”