1 - Se sua resposta for Gaussiana o residuo deve ser Gaussiano. Eu nao tenho nenhuma experiencia com o pacote MCMCglmm, mas eu acho que
vc esta assumindo Gaussianidade pq vc nao especificou nenhuma
distribuicao no argumento family.
O envelope simulado que o Elias falou vai ajudar a interpretar o QQ-plot que deve sim indicar que os residuos sao Gaussianos i.e. pontos dentro do envelope.
Eu nao vi o qq-plot dos seus residuos talvez vc possa colocar aqui pra gente ver.
As vezes nas pontas fica meio estranho mesmo.
2 - Esses testes de normalidade esquece isso.
3 - Apesar da normalidade dos residuos ser importantes, muitas vezes isso nao tem nenhum grande efeito na estimacao dos parametros que em geral e bastante robusta. Eu estaria mais preocupado em verificar se existe um relacionamento entre media e variancia, vc pode usar por exemplo um grafico residuos versus preditos ou observados. Se vc identificar algum padrao e sinal de problema no modelo.
Vc precisa de alguma forma padronizar esses residuos para vc ter uma ideia do tamanho que eles sao. E identificar possiveis outliers ou pontos influentes aberrantes...
4 - MCMCglmm e so um pacote que ajusta Generalized Linear Mixed Models (GLMM) using MCMC methods. Vc pode ajustar GLMM usando diferentes distribuicoes para a sua variavel resposta, como Gaussiana, Gamma, Normal Inverse, T e outras.
5 - O pacote INLA e capaz de ajustar esse modelo filogenetico que vc quer. Vc pode ajustar usando a Normal e tbm tem opcao skew Normal and Gamma. Vc deve usar o modelo generic0 e passar a inversa da sua matriz filogenetica parecido com o que vc passou pro MCMCglmm.