Jorge, bom dia!
A função boxcox tem um default de plotagem (lambda de -2 a 2). Nesse intervalo ela pode se aproximar de uma reta, mas você pode tentar mudar o intervalo para avaliar a função resposta em outros trechos.
boxcox(object, lambda = seq(-2, 2, 1/10)) ### esse é o default
boxcox(prod~blocos+trat, lambda = seq(-20, 20, 1/100)) ### exemplo