[firebase-br] Hexadecimal

Cyber Guido cyberguido em gmail.com
Sex Set 30 18:22:21 -03 2016


Ricardo,

Aritmética de ponto flutuante é imprecisa porque o formato de 
armazenamento, usado internamente pelos computadores, não consegue 
armazená-los de forma acurada.

Se precisão é imperativa, use os formatos de ponto fixo, numeric ou decimal.

Veja também as páginas abaixo:

http://floating-point-gui.de/

http://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples

http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html

Cordialmente,
Carlos

On 30/09/2016 14:45, Ricardo Rodrigues .'. wrote:
> Boa tarde pessoal, estou tendo um problema que nunca tinha ocorrido no meu
> banco.
>
> Eu tenho dois campos double precision, e eu não seu o pq em algum momento
> que foi feito algum calculo, o resultado desses campos estão menor que
> zero, está mostra uma quantidade muito louca em hexidecimal, alguma luz ?
>
>
> Desde já agradeço
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
> Para saber como gerenciar/excluir seu cadastro na lista, use: http://www.firebase.com.br/fb/artigo.php?id=1107
> Para consultar mensagens antigas: http://www.firebase.com.br/pesquisa_lista.html





Mais detalhes sobre a lista de discussão lista