[firebase-br] Qual melhor usar Numeric ou Double Precision

Luciano franca luapfirebird em yahoo.com.br
Qui Jul 7 15:01:30 -03 2016


Então está explicado Carlos realmente depois de 14 digitos exemplo
Fiz testes aqui 
Até esse numero vai bem   999.999.999.999.99depois disso ele vai arredondar para 100.000.000.000.000
e nas casas decimais mesmo coisa o problema só ocorre depois dos 14 digitos.
 Agora o colega sabe me dizer se o problema é só esse com numero extremamente grandes ? pois eu só uso Domain Numeric(10, 6)  quer dizer que no total nunca vou usar mais que os 14 digitos.
 Assim acho que não terei problemas com Double 

    Em Quinta-feira, 7 de Julho de 2016 9:51, Luciano franca <luapfirebird em yahoo.com.br> escreveu:
 

 Então está explicado Carlos realmente depois de 14 digitos exemplo
Fiz testes aqui 
Até esse numero vai bem   999.999.999.999.99depois disso ele vai arredondar para 100.000.000.000.000
e nas casas decimais mesmo coisa o problema só ocorre depois dos 14 digitos.
 Agora o colega sabe me dizer se o problema é só esse com numero extremamente grandes ? pois eu só uso Domain Numeric(10, 6)  quer dizer que no total nunca vou usar mais que os 14 digitos.
 Assim acho que não terei problemas com Double 

    Em Quinta-feira, 7 de Julho de 2016 9:12, Carlos H. Cantu <listas em warmboot.com.br> escreveu:
 

 De cabeça, o double começará a apresentar imprecisão quando o número
tiver mais de 14 dígitos (no total, não só depois da virgula).

[]s
Carlos H. Cantu
eBook Guia de Migração para o FB 3 - www.firebase.com.br/guiafb3.php
www.FireBase.com.br - www.firebirdnews.org - blog.firebase.com.br

Lf> Sim já vi vários relatos na internet sobre isso porém na pratica meus teste me revelaram isso
Lf> o campo do tipo Float sim tem esse problema porém o Double Precision não tenho visto isso.


Lf>  Valor                          Double Precision                Float
Lf>  "10,000059"              "10,000059"                          "10,0000591278076"
Lf>  "999,199"                  "999,199"                          "999,198974609375"
Lf>  "999999999,199"      '999999999,199000001'      "1000000000"  



Lf>  Qual outra situação de problema pois até agora em teste que
Lf> tenho feito não tenho visto essa impressão numérica.


Lf> Grato. 



Lf>  Em Quarta-feira, 6 de Julho de 2016 22:32, Carlos H. Cantu
Lf> <listas em warmboot.com.br> escreveu:
Lf>  


Lf> O problema do double precision é que ele não garante a precisão dos
Lf> números armazenados. Pesquisa no site da FireBase para saber mais.

Lf> []s
Lf> Carlos H. Cantu
Lf> eBook Guia de Migração para o FB 3 - www.firebase.com.br/guiafb3.php
Lf> www.FireBase.com.br - www.firebirdnews.org - blog.firebase.com.br

Lf>> Pessoal estou numa duvida cruel,  antes do FB 3  eu tinha uma
Lf>> rotina que alterava meus Domains pelas tabelas do sistema do
Lf>> Firebird agora com o FB 3 não consigo mais
Lf>> assim vou ter que deixar fixo no sistema algo como "Numeric(10,
Lf>> 6)"  porque meu sistema permite trabalhar até com 6 casas decimais
Lf>> porem estou tendo problemas com alguns relatórios onde está me
Lf>> dando o erro  "Integer overflow. The result of an integer
Lf>> operation caused the most significant bit of the result to carry."

Lf>>  Achei esse Link  "http://www.firebirdfaq.org/faq207/"  que me
Lf>> explica o motivo porém vou ter problemas assim estava pensando em
Lf>> trabalhar com "Double Precision" já fiz alguns testes e parece que
Lf>> ele funciona bem,  agora a questão é depois conforme for usando
Lf>> aparecer algum problema no cliente depois ai para voltar terei problemas.
Lf>>  Pelos meus testes o Tipo Float é bem problemático porem o "Double Precision"  é muito bom.
Lf>>  Alguns exemplos de valores e resultado nos campos para comparativos
Lf>>  Valor                          Double Precision                  Float
Lf>>  "10,000059"              "10,000059"                          "10,0000591278076"
Lf>>  "999,199"                  "999,199"                            "999,198974609375"
Lf>>  "999999999,199"      '999999999,199000001'      "1000000000"  

Lf>>  Algum colega usa esse tipo de campo Double ?    eu tenho que
Lf>> usar varias casas decimais no meu caso eu Deixo Numeric(10, 6) 
Lf>> porém na configuração do sistema se o cliente colocar 2 casas
Lf>> decimais eu travo no sistema para ele não digitar mais que duas
Lf>> casas decimais e ainda coloco um FormatFloat em todos os
Lf>> relatórios para 2 casas decimais.

Lf>>  Grato a todos.
Lf>> ______________________________________________
Lf>> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
Lf>> Para saber como gerenciar/excluir seu cadastro na lista, use:
Lf>> http://www.firebase.com.br/fb/artigo.php?id=1107
Lf>> Para consultar mensagens antigas:
Lf>> http://www.firebase.com.br/pesquisa_lista.html


Lf> ______________________________________________
Lf> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
Lf> Para saber como gerenciar/excluir seu cadastro na lista, use:
Lf> http://www.firebase.com.br/fb/artigo.php?id=1107
Lf> Para consultar mensagens antigas:
Lf> http://www.firebase.com.br/pesquisa_lista.html

Lf>  


______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
Para saber como gerenciar/excluir seu cadastro na lista, use: http://www.firebase.com.br/fb/artigo.php?id=1107
Para consultar mensagens antigas: http://www.firebase.com.br/pesquisa_lista.html

   

  


Mais detalhes sobre a lista de discussão lista