Eu acho que deve ter sido porque eu gravei os arquivos que estavam dentro do .dmg direto no disco ao invés de gravar o .dmg em si. Não tenho certeza, mas talvez tenha sido isso. Ou a mídia estava com problema.
Consegui instalar usando um pendrive para criar o boot. Formatei o HD e fiz a instalação limpa. Agora está ok.