É só passar uma string que identifica os links para o argumento family da glm(), algo como

glm(..., familu=binomial(link="função de ligação"))

você pode usar uma função de ligação própria, por exemplo, se eu quiser usar o modelo gompertz, basta escrever a função na estrutura correta que a glm() é capaz de usar. Veja os resultados da busca com "[R] writing link function to glm":

http://www.google.com.br/search?sourceid=chrome&client=ubuntu&channel=cs&ie=UTF-8&q=%5BR%5D+writing+link+function+to+glm

À disposição.
Walmes.

==========================================================================
Walmes Marques Zeviani
LEG (Laboratório de Estatística e Geoinformação, 25.450418 S, 49.231759 W)
Departamento de Estatística - Universidade Federal do Paraná
fone: (+55) 41 3361 3573
VoIP: (3361 3600) 1053 1173
e-mail: walmes@ufpr.br
twitter: @walmeszeviani
homepage: http://www.leg.ufpr.br/~walmes
linux user number: 531218
==========================================================================