弘文元年（６７２）に起こった壬申の乱で功績をあげた美濃の豪族、村国男依が、天武天皇より賜わった、高句麗伝来の観音小像と仏舎利を芥見の里に堂宇を建てて安置し、山間堂と呼んだ。養老５年（７２１）、越前の国から泰澄という高僧が訪れ、山間堂を現在の願成寺のある場所に移して寺を建て、大洞山清水寺と称した。聖武天皇の御代になって、大仏の鋳造が計画されたとき、鋳造の技術を持った仏師を探し出すよう命ぜられた役人が、大洞山清水寺（願成寺）を訪れて参篭し、観世音菩薩に祈りを捧げたところ、夢に観世音菩薩が現れて、日野金丸という仏師を探し出すことが出来た。やがて大仏が完成し、天皇は大変感謝なさって、大洞山清水寺に、改めて「如意山願成寺」という勅号を下さり、１メートルほどの十一面観音像を造って、今まで祀っていた観音小像と仏舎利をその胎内に収め、これを本尊として七堂伽藍を造営した。弘仁５年（８１４）、弘法大師が関東の方へ行かれる途中に願成寺に立ち寄られた。しばらくご滞在の間に、金剛界大日如来の像と、ご自身の像を作って、寺に納められた。その後、何度かの盛衰を繰り返し、室町時代になると、幸いに土岐美濃守の祈願所となり、土岐政房が、舎弟長山左京の子、長山太郎の家臣である桜井一角に寺の復興を命じ、やがて昔日の繁栄を取り戻した。永禄１０年（１５６７）織田信長が稲葉山城を攻めた時、戦に負けた斉藤竜興の兵隊の一部が願成寺に逃げ込んだため、それを取り囲んだ信長の軍隊に焼かれて、寺は本堂一つを残して七堂伽藍も下寺の１２坊も全部が灰になってしまった。信長の焼き討ち後、しばらく住む僧も無く、寺は荒れるに任せていたが、承応年中（１６５３年頃）下有知（第２４番霊場）の神光寺という寺の僧で、宥遍上人という人が来て寺を再興した。この宥遍上人が願成寺の中興の祖で、現願成寺の初代の住職とされている。元禄２年（１６８９）、第２世の時、願成寺は新義真言宗智山派の寺となった。
