玉泉山的泉水号称“天下第一泉”。虽然乾隆皇帝仅凭水的轻重来定水质的高下未必准确，但总不失为一种较为科学的评判方法。玉泉的水质确是很好的。这泉水涌出已不知有多少年了，但还是等到北京成为帝王之都后才闻名于世。辽、金两代，这里建起了皇帝的行宫。明、清两代，这里的泉水供宫廷专用，并围绕玉泉山，修建起园林，成为燕京（即北京）一景。
为什么会有泉水在玉泉山涌出呢？
你去实地看一下就不难明白。
你可以看到，在玉泉山脚下，构成山体的岩石是一层一层叠在一起的，大部分都向北倾斜。组成这些岩石的矿物颗粒有粗有细、有软有硬；岩石的内部有的孔隙多而且大，容易透水；还有的结构致密，难以让水通过。
当两层不透水的岩层夹着一层透水的岩层时，便形成了一个储存和输送地下水的最佳环境。水藏在居于中间的透水的岩石里面，并受到上下不透水岩层的约束，水在里面就像在自来水管子里似的，可以沿着透水岩层运动。
自来水是由于水塔高于出水口产生压力而运动的，那么玉泉山的泉水的“水塔”在哪里呢？
“水塔”就是那广大巍峨的西山。构成西山的岩层和玉泉山，以及平原底下的岩层都是当初在同一水域里沉积而成、有秩序地在地下分布的，这种天然的“水管”可以延展很远很远。玉泉山的泉水，是“水管”在这里破了，水便从缺口中喷出来，所以它的水量很大。元代曾开发它作为京东大运河的水源，那时的船只可以一直航行到玉泉山下。
“水管”为什么会在这里破裂呢？是一条断裂地带经过了玉泉山的中部。在断裂出现的地方，因为岩层在这里发生了错动，紧贴断裂面的岩石破碎变形，容易风化，所以，在今天，人们很远就能望见玉泉山南北两个山头之间下凹了一大块。