Respondendo:
1- Formatos do Quicktime (mp4, mov, m4v etc...)
2- Tem um monte por aí, mas eu uso o Handbrake. Além de 64bits ele é gratúito e pode-se ripar até DVD desprotegido (DVDs de filmadoras ou de DVD recorder de TV)
3- Não precisa, basta no safari abrir o vídeo do youtube, deixar carregar por completo no modo HD que preferir. Depois de carregado vá até o menu Janela > Atividade e procure dentro de Youtube alguma coisa com muitos MB e com videoplayback no meio da url.