今より千百余年前、京都では鴨川の水がよく氾濫し、その後いつも悪疫が流行して住民の悩みの種であった。当時の人々はこれを奈良時代から平安時代にかけての政治的失脚者たちの怨霊の仕業とみた。
このような御霊神のうち祇園社 ( 八坂神社 ) は牛頭天王という疫神を祀り悪疫退散を祈るようになった。 そのうち疫神そのものを祀るのではなく、疫病を退ける神を祀ろうといういうことになって、主祭神として素戔嗚尊を祀った。
この尊は天照大神の弟君で、出雲で八岐の大蛇を退治してから、強い神の象徴となり、ここに厄除神の第一人者として取上げられた。この祇園社の分祠が全国各地にできるようになったが、山崎神社はその分祠の一つであるか、或いはこれを模倣して造られた者と推定される。
山崎神社は 「 お天王さん 」 と呼んで親しまれており、お詣り時は牛頭天王と言って拝んだ。