中国是诗的国度，诗歌几乎是和古老的文明一起产生的。上古时期就有大量歌谣传唱，据说出自于神农时代的《腊辞》：“土，反其宅！水，归其壑！昆虫，毋作！草木，归其泽！”（《礼记·郊特牲》）另有一首《驱旱魃咒》云：“神，北行！先除水道，决通沟渎！”（《山海经·大荒北经》）这些都是为了某些实际目的而祭祀神灵的歌谣，它们的准确年代已经不可得知。早期祭祀活动中，人们相信语言，尤其是韵语具有神奇的魅力，能够诱导鬼神的活动，所以，它被经常运用到祭祀中。夏禹时，涂山氏所咏《候人兮猗》是南音之始，而东音则起于夏孔甲的《破斧歌》。相信夏代已有较为完整的歌谣流传，如启时祭祀的《九歌》，应该是一首祭天神的歌谣。商代的歌谣，留传于今的是甲骨卜辞中的韵文和《周易》中某些卦爻辞。早期的韵文，句法简单，言辞简朴。甲骨文如：“癸卯卜，今日雨。其自西来雨？其自东来雨？其自北来雨？其自南来雨？”（郭沫若《卜辞通纂》）就很有韵律感。《周易》卦爻辞中保存了很多的谣谚，如《中孚》九二“鸣鹤在阴，其子和之。我有好爵，吾与尔靡之”等。它们的内容涉及社会生活的各个方面：社会的不公，人生的痛苦，劳动的艰辛，爱情的欢乐，等等。其所运用的艺术手法也多种多样，如象征、比兴、白描、叠咏等。因此有学者认为《周易》中的歌谣是《诗经》的前驱。
上古歌谣虽然初步具有诗歌的某些文体特征，但体式不定，还不能称为完整意义上的诗歌。我国最早的诗体应该是四言的“诗经体”。《诗经》句式以四言为主，四句独立成章，其间杂有二言至八言不等。篇章结构多采用重章叠唱。押韵方式多样，常见的是一章之中只用一个韵部，隔句押韵，韵脚在偶句上，也有句句用韵的。有的诗篇换用两韵以上，甚至还有极少数无韵之作。