Nesse caso B é fixo, A e B:A são aleatórios, a sintaxe seria assim

da <- expand.grid(A=gl(5,3), B=gl(4,1))
da$y <- rnorm(da$A)

require(nlme)

m0 <- lme(y~B, random=~1|A/B, data=da)
anova(m0)
summary(m0)

À disposição.
Walmes.

==========================================================================
Walmes Marques Zeviani
LEG (Laboratório de Estatística e Geoinformação, 25.450418 S, 49.231759 W)
Departamento de Estatística - Universidade Federal do Paraná
fone: (+55) 41 3361 3573
VoIP: (3361 3600) 1053 1173
e-mail: walmes@ufpr.br
skype: walmeszeviani
twitter: @walmeszeviani
homepage: http://www.leg.ufpr.br/~walmes
linux user number: 531218
==========================================================================