Você está comparando o modelo Early 2008 com o Late 2009.
A GPU do modelo anterior (Radeon HD 2600 PRO) deve ser no mínimo umas duas vezes melhor do que essa GeForce 9400M do modelo novo. A Radeon tem memória dedicada, e a GeForce não dispõe disso - usa memória compartilhada. Isso não quer dizer que é ruim, pelo contrário, essa solução gráfica da nVidia é excelente.
No dia-a-dia em aplicações corriqueiras não sentirá diferença nenhuma, mas se for rodar games e aplicações 3D aí sim você verá o poder de fogo da Radeon.
Sobre o processamento, eles usam um E8335 (2.66GHz/ 1066MHz FSB/ 6MB L2 Cache) e um E7600 (3.06GHz/ 1066MHz FSB/ 3MB L2 Cache), respectivamente. O 1ª tem menos clock e mais memória cache, enquanto o 2º ganha no clock e perde na memória cache. Nesse ponto os dois se equivalem.
Isto posto, e respondendo sua opinião, R$1K de diferença não torna o iMac de 21,5" muito melhor que o outro. Mas eu escolheria o modelo novo por causa da memória DDR3, 180GB a mais de armazenamento, tela grandona com resolução Full HD e também pelos periféricos fodões (Magic Mouse e Apple Wireless Keyboard).
Só mais uma coisa, R$3.8K tá caro. Na Fast Shop você consegue um preço bem melhor se for pagar a vista.