O modelo não esta convergindo.Tente aumentar o número de iterações, ou mexer no algoritimo de otimização via lmerControl.
Por exemplo.
O1.glmer <-glmer(NCalls~offset(LBroodSize)+SexParent*FoodTreatment+SexParent*ArrivalTime+(1 | fNest),data = an1, family = poisson,control=lmerControl(optCtrl=list(maxfun=20000))
Mas acho que mais importante que isso é olhar os dados. Veja se em alguma situação não existe variação, tipo uma combinação de níveis de fatores não exibe nenhuma variação, ja que se fosse mesmo o número de iterações ele deveria falar "maximum number of function evaluations exceeded".
Você pode mudar o algoritimo otimizador também, em vários posts do Ben Bolker no stackoverflow, que mantém o pacote, ele comenta sobre isso.
Mas acho que o primeira passo seria olhar os dados para garantir. Esse é algum exemplo do livro?