[R-br] precisão da operação

salah salah3.1416 em gmail.com
Terça Setembro 22 09:57:55 BRT 2015


Esse é o grande Deus da informática: "floating point"

Faça

options(digits = 22)
k = 123456789123456789
sprintf('%1.2f', k)

Sugiro a leitura:

http://www.burns-stat.com/pages/Tutor/R_inferno.pdf

saudações

Em Ter, 2015-09-22 às 07:54 -0300, Cleber N.Borges escreveu:
>  > 12345678912345678+1
> [1] 12345678912345680
> 
>  > 1.2345678912345678+0
> [1] 1.2345678912345679
> 
> Prezados,
> pq exatamente o fato acima apresentado acontece?
> 
> se a capacidade de representação dos números estão
> na faixa de 1.xxe-308 a 1.xxe+308
> 
> 
> agradeço antecipadamente pela atenção
> 
> cleber
> 
> 
> 
> ---
> Este email foi escaneado pelo Avast antivírus.
> https://www.avast.com/antivirus
> 
> _______________________________________________
> R-br mailing list
> R-br em listas.c3sl.ufpr.br
> https://listas.inf.ufpr.br/cgi-bin/mailman/listinfo/r-br
> Leia o guia de postagem (http://www.leg.ufpr.br/r-br-guia) e fornea cdigo mnimo reproduzvel.




Mais detalhes sobre a lista de discussão R-br