Olá, isso aqui deu certo para mim. Na aba de customização, mandei adicionar, marquei a opção Use simplified settings, na combo na frente dessa opção escolhi CVT-RB, no campo active horizontal coloquei 2560 e o no active vertical 1080, pressionei botão OK. Fechei a tela e salvei as configurações. Reinicializei o mac e selecionei a nova resolução.