肖洛霍夫于1905年5月28日出生在顿河草原维申斯卡亚镇附近的克鲁齐林村，其父喜爱藏书，熏陶了肖洛霍夫对于文学的热爱。1918年，国内战争爆发，正在读中学四年级的肖洛霍夫因而辍学回家。两年后，顿河建立革命政权，少年肖洛霍夫曾在参加武装征粮队时被匪帮抓住，只因年幼而幸免一死。
1922年，肖洛霍夫为了学习写作来到莫斯科，在四处求职的同时开始文学创作。1923年，他加入文学团体“青年近卫军”，同年发表处女作《考验》。1924年，他加入俄罗斯无产阶级作家协会，并于同年返回家乡，专事创作。
革命和战争震撼了顿河大地，也给他提供了丰富的创作源泉。1926年，短篇小说集《顿河故事》和《浅蓝的原野》相继出版。作品以鲜明的形象、生动的语言和浓烈的乡土气息，将巨大的斗争场面浓缩在个人关系或家庭矛盾之中，真实地反映了十月革命和国内战争时期顿河地区瞬息万变的时代风云，历来被视为《静静的顿河》的前奏。
20世纪30年代，肖洛霍夫投身于席卷全苏联的农业集体化大潮，创作了《被开垦的处女地》第一部（1932）。这部小说反映了顿河地区哥萨克农村实行农业集体化的经过。这部小说紧贴社会现实，被誉为“艺术形式的历史文献”。小说的第二部构思于30年代，完成于1960年。作品虽然继续描写格内米雅其村集体农庄的巩固，但在人物安排、情节发展等方面都有了很大变化，而且着重表现的已是50年代大力提倡的人道主义精神。
在卫国战争期间，肖洛霍夫应征入伍，以上校军衔在前线担任战地记者，发表了许多政论、特写和短篇小说，并从1943年开始创作歌颂苏联军民爱国主义精神的未竟之作《他们为祖国而战》。
战后，肖洛霍夫除了参加各种社会活动之外，仍定居维申斯卡亚镇，并在这里完成了短篇力作《人的命运》（1956）。这篇小说是苏联20世纪50年代后半期战争题材文学第二次浪潮的先声。小说主人公索科洛夫是一个普通的苏联工人，在国内战争中参加过红军。40年代，他又拿起武器抗击入侵的法西斯，不幸受伤被俘。后来，他生擒了一个德军军官，从战俘营中逃了回来。可他的妻子和两个女儿已在战争期间被敌机炸死，唯一的儿子则在攻克柏林的战斗中牺牲。他收养了在战争中成为孤儿的凡尼亚，两人过着相依为命的生活。故事表现了一代人在战争中所经历的悲剧遭遇，饱含着作者关注普通人命运的人道主义情怀。