天文の頃、 真室城主佐々木典膳が居城の守護神として創建したもので、薬師瑠璃 光如来を本尊として古くは薬師堂といわれている。明治の神仏分離令の際山神社と改称さ 大山祇命と共に祀られている。 明治六二月十五日村社に列格される。
薬師像(金銅、椅座、白鳳)は城主の持念 仏であったという。昭和六十二年国の重文に こを居城と定めてより、室町、戦国、 安土桃 江戸時代に移る戦乱の九十余年が盛期で指定される。 真室城は永禄六年佐々木貞綱ここを居城と定めてより、室町、戦国、安土桃山、江戸時代に移る戦乱の九十余年が盛期である。その頃威勢は新庄最上はもとより、庄内や秋田県南に及んだという。
