Bom um sinal digital 5.1 canais de uma fonte qualquer de áudio só vai ser passado para o Home Theater por um cabo digital, podendo ser um Coaxial, um Ótico ou então um cabo HDMI.
A ligaçao é a seguinte :
(Audio OUT)-PS3 via cabo ótico para o Home.
(Video OUT)-PS3 via cabo HDMI para a TV.
Para escutar a programação aberta da TV em 5.1 canais só se a transmissão estiver sendo mandada em 5.1 canais, e mesmo se estivesse, teria que ser feito uma ligação por cabo digital, se não, vai ser no simulado mesmo.
Espero ter ajudado,
Grande abraço