ディレクトリごとにDirectoryIndexを変えたいときは、dir.confを削除する必要がある

<Directory "/var/www/piyo/">
    DirectoryIndex hoge.php
</Directory>

piyo/ にアクセスしたときは hoge.php に飛ばしたい。
しかし、piyoディレクトリには index.html も置いてあり、こちらは明示的に指定されない限りは使いたくない。

このとき、デフォルトの設定ファイル dir.conf があると こっちのが強いらしく個々の設定が無視されてしまう

/etc/apache2/mods-enabled/dir.conf

<IfModule mod_dir.c>
    DirectoryIndex index.html index.cgi index.pl index.php index.xhtml index.htm
</IfModule>

なので、dir.conf を削除する。

そもそも IfModule コンテナ？ディレクティブ？ なんざ要らないんだよ。
モジュールがロードされてなかったら潔くエラーになっとけや