天平年中、鎮守府将軍大野朝臣東人の創建と伝える。
平安時代康平6年、源頼義、義家前9年の役に際し当地に至り、里人より「この地に椹の木6本有り、故に六椹と称し祀れるは八幡大神也」と聞き、「それ陸奥の苦を抜く」と喜びて厚く戦勝を祈願。争乱平定後、神恩報謝に社殿を造営、絹黒地金泥日章旗一旒を奉納したと伝える。
南北朝時代延文元年、斯波兼頼山形に入部するや、斯波氏元来源氏の名流なるを以て、累代の祈願所と定め社殿を造営。その子孫最上義光、慶長5年関ヶ原合戦の余波戦に上杉軍と戦い勝利、愈々崇敬を厚くし、社殿の修営、軍旗、社殿等を寄進する。
最上氏改易後の寛永7年、山形城主鳥居忠恒宮殿を造営、これ今の本殿と伝え、八双金具に鳥居家家紋「巻鶴」が彫られている。
江戸時代、慶安元年以来御朱印48石を寄せられ、爾来、保科正之、堀田正亮、秋元涼朝、水野忠精等、歴代藩主から厚く崇敬される。
明治6年5月、山形市最初の県社に列し、同40年4月、神饌弊帛料供進神社に指定される。 往古より、山形城下南一円を当八幡宮の氏子区域として崇敬され、現在氏子戸数6,500余戸、40余町区に及んでいる。
更に、市街地の真中にあっても広大なる境内に樹齢数百年という巨木が多数そびえ、神厳清浄の気に満ちている。