黑牛水的原名叫怪子水，原来水量特小，后来人们发现这股泉水不仅甘甜清冽,而且无论是阴雨连绵还是久旱不雨,泉水一直这般流淌,故此,当地人取名叫怪子水.自从黑牛水的开山祖师云格到此发现这块风水宝地之后,就决定留下来在此建寺庙.他四处去化缘,求助各地善士帮助建起寺庙后,邀请一些地方游僧住下来,逐渐开始了佛事活动,该寺庙从无倒有,规模从小到大,僧人最多时达四、五十人。
　　这里人民最清楚,寺下那泉水,象甘甜的乳汁一样,默默无闻永无代价地滋养他的弟子们,也滋养了这一方土地和在这片土地繁衍声息的山民们。
后来,由于常年久旱清泉的水变小了,当地山民与寺僧发生了争水现象.僧人们就舍近求远,到30多华里的拒马河弄水吃,不久,黑牛水的水量变大了,黑牛才停止了驮水。
　　终有一天,第一代祖师圆寂了.人们在泉眼边发现那头大黑牛,它善良.和善,睁着一对清纯的眼睛,终日趴在泉边守护这股颇为利民的泉水.每当人们走近它时它就忽然没了,当人们远离它时,那头温顺的黑牛又出现在人们的视线中.人们逐渐的明白了,它是开山祖师的化身,它要永远呆在泉边,保护这口泉的洁净,甘甜和清凉,从此人们就管这股水叫黑牛水,黑牛水的名字就这样地世世代代流传下来。