中国古代散文的发展和其他的文体一样，都受到中国古代社会政治文化和历史变迁的影响，不同时代的散文显示出不同的时代特点和社会风貌。
殷商之时，文字初创，由于生产力低下，人们普遍迷信鬼神，所以一些甲骨小辞、易卦卜辞等成为最早的文字和文学。这些文字篆刻在动物兽骨上，简质古奥，主要是为了记事。虽然它们已经具备了“散文”的一些特征，但只是记事达意而已，谈不上文采和意趣。
春秋战国时期，社会发生了巨大的变革，王纲解纽，礼崩乐坏；私人讲学，处士横议；各持己见，百家争鸣，社会思潮空前活跃，于是诸子散文、历史散文应运而生，促成中国散文形成了第一个繁荣发展的局面。诸子散文以诸子论说为主，如《论语》《孟子》《庄子》《墨子》《韩非子》等；历史散文以历史题材为主，如《左传》《国语》《战国策》等。无论是诸子散文还是历史散文，这一时期散文的主要特色就是具有强烈的现实性和浓厚的政治色彩。
《论语》和《孟子》是诠释以“仁”为核心的儒家思想的著作。《论语》是记录孔丘及其弟子言行的著作，其中多是简短的谈话和问答，但是言简意赅，含蓄隽永，蕴含着极大的智慧和丰富的道理；《孟子》记载孟轲的言论。孟子长于辩论，因此书中语言明快，富于鼓动性。《墨子》宣扬了墨家“兼爱”的主张，语言朴素，说理明确，逻辑性很强，《兼爱》《非攻》等篇极具代表性。《庄子》则代表道家“无为而治”的主张，《庄子》散文在诸子散文中独具魅力，这表现在作者丰富而奇幻的想象力和敏锐的观察力，善用寓言，长于譬喻，使文章在恣意表达的同时富于趣味，在诸子散文中最具文学意味。《韩非子》代表法家的主张，文章结构严谨，锋芒锐利，说理深刻。《荀子》散文的特点在于论点明确、条分缕析、层次清楚、词汇丰富。《吕氏春秋》是秦丞相吕不韦门客的集体创作，它包括八览、六论、十二纪，兼有儒、道、墨、法、农诸家学说，书中保留了大量先秦时期的文献和佚事。它的特点是层层深入，条理清晰，并且善用寓言，长于譬喻，在说理的同时，又富于形象性。