毛越寺の鬼門（北東）にあたり、平泉鎮護のための雌雄一対の黄金の鶏を埋めたと言われております。また秀衡が北上川まで人夫を並べ、土砂を運ばせ一晩で築いた造り山という伝承もあります。
芭蕉も「金鶏山のみ形をのこす」と詠んでおります。
平泉の都市造営の基準となったシンボルタワー（象徴）となっており、登り口付近に義経妻子の墓（五輪塔）があります。