了解了什么是“社会”、什么是“和谐”之后，需要对什么是“和谐社会”进行深入的研究。由于社会是一个大系统，其中包含若干子系统，故和谐社会也是一个大系统。所谓“和谐社会”就是指整个社会系统的全面和谐，这里既要促进宏观的整个社会的和谐发展，又要培育微观的各个社会组织系统的和谐发展；既要达到人与自然的和谐，又达到人与人、人自身的和谐；既要达到宏观上社会整个系统内经济、政治、文化等系统之间的和谐，又要达到中观上经济、政治、文化各子系统内部的和谐，还要达到微观上各子系统内部的和谐；既要达到社会内部各阶层、各利益团体之间的和谐，又要争取外部世界格局的和谐发展。
空想社会主义者是社会主义思想史上最早探索和谐社会的学者。在空想社会主义300多年的发展进程中，和谐社会一直是其追求的价值目标。早期空想社会主义者莫尔、康帕内拉都曾描述过一幅幅和谐社会的理想图景。19世纪初期的空想社会主义者针对资本主义制度的不和谐，构建一个全新的和谐社会。如傅立叶认为，既然在自然体系内存在着和谐的秩序，那么在社会体系内也应该有和谐的秩序。1803年，傅立叶发表了《全世界和谐》一文，指出充满剥削和不平等的资本主义社会是不和谐的，必将被“和谐”制度所代替。1827年又发表了《新世纪》，全面论述了他的“和谐制度”。欧文从“环境决定人的性格”的理念出发，提出一个改造资本主义社会、建立人与自然和谐相处的共产主义社会的方案。1942年，德国空想社会主义者魏特林出版了他的《和谐与自由的保证》一书。在这本书中，他把资本主义社会称为“病态社会”，把社会主义称为“和谐与自由的社会”。他说：“全体的和谐！以及在全体和谐中的每一个人的最大可能的自由，这就是我们所要努力完成的任务，这就是从现在起必须在言论和文字上加以大力宣扬的那种精神，这就是我在这个制度里所要弄清楚阐明的理想。”[7]马克思高度赞扬了魏特林的这一著作，认为《和谐与自由的保证》是“史无前例的光辉灿烂的处女作”。[8]同时，马克思、恩格斯也强调，这些和谐社会的思想，是根据抽象的伦理道德和理性原则设计出来的，脱离了现实的经济基础，不可能正确地认识社会，揭示和谐社会的本质和发展规律。马克思、恩格斯如此评价：“他们都不是作为当时已经历史地产生的无产阶级的利益的代表出现的。他们和启蒙学者一样，并不是想首先解放某一个阶级，而是想立即解放全人类。他们和启蒙学者一样，想建立理性和永恒正义的王国；但是他们的王国和启蒙学者的王国是有天壤之别的。按照这些启蒙学者的原则建立起来的资产阶级世界也是不合理性的和非正义的，所以也应该像封建制度和一切更早的社会制度一样被抛到垃圾堆里去。真正的理性和正义至今还没有统治世界，这只是因为它们没有被人们正确地认识。所缺少的只是个别的天才人物，现在这种人物已经出现而且已经认识了真理；至于天才人物正是在现在出现，真理正是在现在被认识到，这并不是从历史发展的联系中必然产生的、不可避免的事情，而纯粹是一种侥幸的偶然现象。”[9]总之，在马克思、恩格斯看来，空想社会主义者构想的和谐社会是“天才的构想”，但他们希望通过“天才”来实现却是根本不可能的。