牛头宗为法融（594—657）所创，或谓其为四祖道信门下之别支，但考其渊源，实为三论宗之一支。三论宗由刘宋摄山法度开创，法度为北方人，“游学北土，备综众经，而专以苦节成务”，他对北方关河三论之学很精通，而专务苦节，偏重苦行习禅，已然显示了禅教兼通的特点。法度于宋末南游，住锡摄山，创立此宗。法度传弟子辽东僧朗，朗博学多识，“《华严》、三论，最所命家”，对《华严》、三论尤其精通。朗传弟子僧诠，僧诠一方面精通三论之学，一方面又“遁迹幽林，禅味相得”，继续保持着禅教并重的宗风。僧诠特重实修，甚至“誓不涉言”，并责令门下依法修习，不得妄言。僧诠门下有四大弟子：兴皇法朗、摄山慧布、长干慧辩、禅众慧勇，号四句朗、得意布、领语辩、文章勇，时称“诠公四友”。四人之中，法朗名气最大，慧布号称“得意”“最为高也”，且他仍住摄山，实为当时正统。然而慧布一支后世传承不明，三论宗门，由法朗一系传承。法朗传茅山大明（炅法师），大明传牛头法融。此即牛头宗的渊源。
三论宗自法度始，便有教禅并重的宗风。然其所谓教，是指以《大品》、三论为宗的大乘般若空宗教典；其所谓禅，原指苦节为务，宴坐山林的五门禅法，这两类经典都出于罗什一派，故虽然法度之师承不明，仍可视为关河之学的传人。僧朗博学多识，又将《华严》引入己宗，但并非改变关河之学的传统，自法度始，三论宗就一直探求禅教相融，禅教合一，力图融二为一，树立宗风。然由于罗什之学本来博杂，其三论、般若思想源自须利耶苏摩，可谓学有师承，这方面也是罗什最为著力、亦最专精的学说，而其禅法源自于罽宾的盘头达多，为其少时所学，故其三论般若与禅法渊源非一，且一为大乘，一为小乘，本相抵触，和合更难。因此三论宗在会合禅教方面遇到很大的困难，虽然历代宗师致力于此，然直至牛头法融，也未可说获得了完全的成功。