初唐以前，中国绘画的造型主要依赖于线和色来表现，墨只是为用笔“画道道”才存在，墨自身的特性在绘画中尚未被认识。从中唐王维、张璪等开始用水墨作画，并由张彦远概括地提出“运墨而五色具，谓之得意”，水墨才正式进入到作为中国绘画的一个独立表现系统的阶段。
（一）水墨系统的形成
水墨作为一个中国绘画的独立表现系统，从其画法上来讲，首先是脱离了对“笔”的依赖，即墨不仅仅为用笔而存在，而是具有色彩之效果——墨中含彩。荆浩给“墨”下的定义为：“墨者，高低晕淡，品物浅深，文质自然，似非因笔。”[1]墨本身可以有晕淡、浅深、自然等特性，墨的功能有“渲”、“染”、“烘”、“托”。而墨的特性和功能，是伴随着水来实施的，正所谓“墨为水化，而见渲染、烘托，水为墨用，而有破墨泼墨”，水与墨会，墨白两极色在幻化中获得了无限的灰度，无限可能的色阶及色值。其次是墨由概括色转变为抽象色。概括色，主要表现为原色的运用、对纯度的强调、对补色原理的重视及大面积的平涂等。中国绘画之原色有红、黄、蓝、白、黑五种，“吾国祖先，以红黄蓝白黑为五原色，与西洋以红黄蓝为三原色者不同”。而在这五原色之中，“黑白两色，为独立自存之色彩”而“墨以黑而有光彩者为贵”，“墨为五色之主”[2]。这里墨是代表中国原色黑色，亦即概括色而言，墨即黑色，五色之主色。而从唐代王维“使用渲淡，一变钩斫之法”（董其昌：《画旨》），墨“伴随着一个幻化一切的精灵——水”而“具备了无限可能性的抽象色”，即黑白灰“三非色”的天地，以黑、白、干、湿、浓、淡创造了宋元以后的画坛上丰美多姿的墨象世界。
水墨作为中国绘画的一个独立表现系统，从其画体（狭义的）上来讲，由人物画向山水画的转变。山水画的形成，使水墨大有用武之地，推进了水墨系统的形成。中国绘画唐代以前大都以画道释人物为主，曹不兴、卫协、戴逵、陆探微、张僧繇，都是这个时期道释人物画大家，到了唐代特别是中唐，由以道释人物为中心的人物佛家的描写，渐渐趋向对大自然的酷好，从而也招致山水画的抬头。中国的山水画魏晋南北朝后慢慢有了发展，像刘宋宗炳、南朝梁萧贲当时都是以山水画家身份出现在中国画坛的，但将山水画发展到绘画的一种形态，还是中唐以后的事，被唐代张彦远称为“由是山水之变始于吴（道玄），成于二李（李思训、李昭道）”（张彦远：《历代名画记》），说明山水画已确立了自己的形态和地位。吴道子主要是画道释人物，山水兼之，而山水画作品无存。张彦远说吴道子“山水之变”，完全无法得到端倪。但据美术史家的考证，吴道子的山水画“于墨汁扩散而具阴影，呈立体表现”，“是水墨成立后的山水画”[3]。至于说“成于二李”主要指李思训父子画着色山水，用色金碧辉映，自成一体，后被明代董其昌推为“北宗”之祖。而被董其昌推崇，以水墨山水得势的王维开中国水墨山水之先，故为“南宗”之祖。从以上可以看出，中国山水画基本形态在唐代已确立，并已取代以道释人物为中心的人物画。