岐阜県の東南部に位置する東濃地方は、中京圏の一角をなし名古屋市にも比較的近いという良好な立地条件のもと、交通機関や産業基盤の整備が進められてきているが、これに伴い各種企業の進出が活発となった。こうした経緯から建設省は、昭和42年度から農林省や岐阜県の調査を引継ぐ形で予備調査を開始し、治水・利水計画の大要を検討するとともに、ダム建設の可能性を検討した。昭和44年度からは実施計画調査に入り、昭和48年建設省は水資源開発公団に事業を仮継承した。昭和51年10月に公団に事業を継承し、建設事業に着手した。阿木川ダムは平成3年3月に完成した。
岐阜県では、昭和38年度から東濃用水事業として、東濃地方5市1町に水道用水・工業用水を供給する計画を立て、翌39年1月には、地元市町村が東濃利水対策協議会を設立し、木曽川及び庄内川から水道用水・工業用水を取水する計画を立案したが、その第一期工事として阿木川からの取水を計画し、阿木川に水源施設としてのダムの建設を計画した。
また、農林省は、これらの用水の一部確保と農地防災を目的として、阿木川中流部の小沢地点に中規模土地改良事業として防災ダムを計画した。
こうして、昭和40年以降、農林省、岐阜県等により航空写真の図化・地質調査及び水文調査等の予備調査が実施された。また、そのころ名古屋市南部の工業地帯では水需要に対処することが緊急の課題となっていた。一方、治水計画では、昭和43年に工事実施基本計画を改定し、木曽川では既設の丸山ダム、すでに実施調査を開始していた岩屋ダムを初めとする上流ダム群の一つとして計画することとなった。