Como fazer upgrade da placa de vídeo do iMac?

A Apple não oferecia esta opção na época de venda do equipamento e já não tem mais suporte para este equipamento, sendo considerado pela empresa como Obsoleto.

E não sendo uma ação autorizada pela Apple, não é possível discutir os detalhes técnicos disto aqui.

Aconselho que procure sites independentes para pesquisar sobre o tema.