Olá Leonardo, recentemente tive a mesma dificuldade.
Então segue algumas sugestões, que tenho certeza está longe de ser a mais elegante e ideal, mas que talvez possa te ajudar.
Primeiramente, o word sempre reduzirá a qualidade das figuras, principalmente quando se altera o tamanho das figuras dentro do software,
por isso o ideal é inserir as figuras no word no tamanho que esta deve ficar. Para isso eu exportei as figuras utilizando a função
x11(altura, largura), indicando a altura e a largura das figuras.
Segundo, exportar os gráficos em pdf e deste exportava para tiff com uma resolução maior.
No comando a seguir é possível indicar o formato da figura, o nome do arquivo, a resolução, unidade com que você indicará a altura e a largura, bem como as dimensões da figura.
tiff("pca1999", res=1200, units="cm", width=20, height=20)
Esta é uma possibilidade que faz exatamente o que foi feito anteriormente, porém no meu caso não deu muito certo,
pois este comando sempre gerava figuras desconfiguradas, impossíveis de serem utilizadas.
Por isso resolvi exportar para pdf.
Espero ter contribuído.
A disposição....