[firebase-br] Hexadecimal

[Ricardo Rodrigues .'.]

Exemplo do que ocorre,

select 2.06 - 2.05
  from rdb$relations

resultado : 0,0100000000000002

Em 30 de setembro de 2016 18:22, Cyber Guido <cyberguido em gmail.com>
escreveu:

> Ricardo,
>
> Aritmética de ponto flutuante é imprecisa porque o formato de
> armazenamento, usado internamente pelos computadores, não consegue
> armazená-los de forma acurada.
>
> Se precisão é imperativa, use os formatos de ponto fixo, numeric ou
> decimal.
>
> Veja também as páginas abaixo:
>
> http://floating-point-gui.de/
>
> http://stackoverflow.com/questions/2100490/floating-point-
> inaccuracy-examples
>
> http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html
>
> Cordialmente,
> Carlos
>
>
> On 30/09/2016 14:45, Ricardo Rodrigues .'. wrote:
>
>> Boa tarde pessoal, estou tendo um problema que nunca tinha ocorrido no meu
>> banco.
>>
>> Eu tenho dois campos double precision, e eu não seu o pq em algum momento
>> que foi feito algum calculo, o resultado desses campos estão menor que
>> zero, está mostra uma quantidade muito louca em hexidecimal, alguma luz ?
>>
>>
>> Desde já agradeço
>> ______________________________________________
>> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
>> Para saber como gerenciar/excluir seu cadastro na lista, use:
>> http://www.firebase.com.br/fb/artigo.php?id=1107
>> Para consultar mensagens antigas: http://www.firebase.com.br/pes
>> quisa_lista.html
>>
>
>
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
> Para saber como gerenciar/excluir seu cadastro na lista, use:
> http://www.firebase.com.br/fb/artigo.php?id=1107
> Para consultar mensagens antigas: http://www.firebase.com.br/pes
> quisa_lista.html
>