Boa tarde @Matheus Sampaio blz ?
Ao que tudo indica o seu iMac está com problema na placa de vídeo, mais especificamente no chip gráfico.
Nesse caso será necessário efetuar a troca do chip + solda ou somente a troca da solda.
Caso tenha interesse posso efetuar esse reparo para você.
Vou deixar meus contatos abaixo.
Abs.
Carlos Cruz
Técnico Certificado Apple (ACMT).
Apple Consult Brasil.
https://www.facebook.com/appleconsultbr/
Tel: 11-98021-3666 (Whatsapp).
Endereço: Av. Fagundes Filho, 486 - Conjunto 144.
Bairro: Vila Monte Alegre (próximo ao metrô são Judas)
Horário de atendimento: Segunda a Sexta das 10:00 as 19:00 hrs.