Quanto ao upgrade de memória, pode ir na de 16gb sem problemas que é compatível sim. Eu estava com o mesmo problema: ao rodar a memória virtual, o mac ficava muito lento. Comprei a memória komputerbay 16 gb ddr3 ( na época paguei U$ 65,00) e recomendo pois deu uma bela melhorada
Modelo comprado : http://www.amazon.com/gp/product/B00698WP50/ref=oh_details_o06_s00_i00?ie=UTF8&psc=1
Da uma lida nos reviews da amazon que tem bastante gente que colocou em macbook citando as melhoras de desempenho.
Ps: No meu mac reconhece 16 gb