Olá Pessoal! Estou com um problema semelhante a esse! Uso 1 versão do Mac de meados de 2011 27" polegadas.
Comprei 1 driver USB externo de audio 5.1 para ligar meu home theater. Realizei a instalação do driver no mac e configurei as saídas nas "Configurações de Audio e MIDI" alem disso instalei o Perian na sua ultima versão disponível no site "1.2.3". Quando estou configurando o Audio pelo sistema "Configuração de Audio MIDI" o sistema reconhece perfeitamente as caixas 5.1 e á configuração dos alto-falantes e possível. Porem quando executo as musicas ou tento ver 1 video não funciona. De inicio pensei que não estava funcionando por causa do QuickTime então baixei o VLC para testar e não funcionou.
Segue link com imagens das configurações e driver externo:
http://1drv.ms/1Jdstpe Se alguém poder me ajudar agradeço !