Talvez vc possa usar uma regressão Beta ou Simplex com efeitos aletórios com algum truque para lidar com os dados da borda.

Primeiro vc transforma seus dados pro intervalo unitário (Y - 0)/5 no seu caso.

Vc vai ter dados na borda, pra tirar eles da borda vc usa este pequeno truque

y∗ = y/(n − 1) + 0.5 /n

Partindo daqui vc tem a situações de dados limitados no (0,1)

Eu disponibilizo algumas funções que ajustam modelos beta com efeitos aleatórios na página

http://www.leg.ufpr.br/doku.php/publications:papercompanions:betamix Caso Beta

http://www.leg.ufpr.br/doku.php/publications:simplexmix Caso Simplex.

Outra abordagem é partir para modelos marginais que não vão precisar do truque da borda e vão funcionar muito bem.
Vc pode usar a função de ligação logit e função de variance mu(1-mu) e alguma working correlation matrix tipo compound symetric. Se vc for para este lado vc pode ver o segundo exemplo deste paper

http://arxiv.org/abs/1504.01551

Tem alguns códigos que ajudam a ajustar estes modelos aqui
http://www.leg.ufpr.br/doku.php/publications:papercompanions:mcglm

Neste último caso eu estou trabalhando em um pacote que ajusta esses modelos mais genéricos e posso te ajudar a fazer a analise.

Att

Em 11 de agosto de 2015 19:55, Carolina Pena <carolinapenaa@yahoo.com.br> escreveu:
Boa tarde a todos, 

Preciso ajustar um modelo linear misto no R, o problema é que minha variável resposta varia de 0 a 5 (ela é contínua nesse intervalo, mas há vários casos de 5, por exemplo). Para cada indivíduo, há várias medições da resposta, por isso gostaria de utilizar um modelo misto. 
Tentei utilizar o pacote nlme do R, o comando "lme", ou seja, ajustei um modelo linear misto ignorando o fato dos dados serem truncados em 0 e 5. 
O gráfico de resíduos (resíduos versus fitted) não é uma nuvem aleatória em torno de zero, os resíduos parecem formar uma espécie de losango com centro em zero e o histograma apresenta uma cauda à esquerda. 
Com isso, minha pergunta é: há algum pacote no R no qual eu conseguiria ajustar um modelo linear misto na situação em que a variável resposta é truncada? 
Eu encontrei dois pacotes que ajustam regressão truncada, mas nenhum deles permite o ajuste de um modelo misto. 

Desde já agradeço!  

Um abraço, 

Carolina

_______________________________________________
R-br mailing list
R-br@listas.c3sl.ufpr.br
https://listas.inf.ufpr.br/cgi-bin/mailman/listinfo/r-br
Leia o guia de postagem (http://www.leg.ufpr.br/r-br-guia) e forneça código mínimo reproduzível.



--
Wagner Hugo Bonat
----------------------------------------------------------------------------------------------
Department of Mathematics and Computer Science (IMADA)
University of Southern Denmark (SDU) and
Laboratório de Estatística e Geoinformação (LEG)
Universidade Federal do Paraná (UFPR)