Se você assume que os dados são normais e o efeito aleatório também, você pode usar a nlme (método de estimação ML ou REML, não MQO). Seja f1 o fator fixo e f2 o fator aleatório, y é a resposta, basicamente seria

require(nlme)
f2inf1 <- interaction(f1, f2)
m0 <- lme(y~f1, random=~1|f2inf1)

À disposição.
Walmes.

==========================================================================
Walmes Marques Zeviani
LEG (Laboratório de Estatística e Geoinformação, 25.450418 S, 49.231759 W)
Departamento de Estatística - Universidade Federal do Paraná
fone: (+55) 41 3361 3573
VoIP: (3361 3600) 1053 1173
e-mail: walmes@ufpr.br
twitter: @walmeszeviani
homepage: http://www.leg.ufpr.br/~walmes
linux user number: 531218
==========================================================================