創建は亘理の初代領主伊達成実が慶長9年（1604）に福島県信夫郡小倉村にあった陽林寺を亘理城下へ移して、雄山寺と称しました。その後大雄寺と改名し代々の菩提寺としました。元文元年（1736）の火災により、本堂・山門などが焼失し、創建当初建てられた大規模な伽藍は大幅に縮小されたとされます。現在、残っている山門は文政年間（1818～1830）に建築され、亘理町指定文化財に指定されています。

本堂は明治30年（1897）に改築されました。御霊屋の内部には、位牌と木造（宮城県指定有形文化財）が安置され、伊達領内に残る江戸時代初期の霊屋建築を知る上で貴重とされていて、宮城県指定有形文化財に指定されています。実元の御霊屋は成実の父親ですが没後250周忌にあたる天保７年（1836）に建てられ、実氏の御霊屋は亘理伊達家の中興の祖と言われる名君でその偉業から江戸中期に建立されました。両氏の御霊屋は昭和49年に、亘理歴代領主墓地は昭和５４年に亘理町指定文化財に指定されています。