[firebase-br] Resultado de conta diferente apenas no firebird, porquê?

Gladiston Santana gladiston em vidy.com.br
Qui Out 29 16:53:56 -03 2015


Valeu, eu estava quebrando a cabeça com isso.
Então todos os membros de uma equação devem ter a mesma precisão.
Essa forma de calcular segue alguma orientação geral ou é algo
caracteristico do Firebird?
Afinal, tentei vários programas e apenas o Firebird resultou diferente.

Em 29 de outubro de 2015 16:32, Carlos H. Cantu <listas em warmboot.com.br>
escreveu:

> A precisão (casas decimais) do resultado de divisão no firebird será
> sempre a soma da precisão dos membros da formula.... no seu caso,
> 2183.48 (2) e 37.25 (2) o resultado terá 2+2 = 4 casas decimais. Se
> quiser mais, use um cast, ou aumente as decimais de algum membro, ex:
>
> (2183.48/(1-(37.25/100.00)))
>
> dará 6 casas decimais no resultado (2 + 2 + 2)
>
> []s
> Carlos H. Cantu
> www.FireBase.com.br - www.firebirdnews.org
> www.warmboot.com.br - blog.firebase.com.br
>
> GS> Pessoal é o seguinte, ao executar a seguinte sentença matemática:
> GS> select (2183.48/(1-(37.25/100))) as valor from rdb$database
>
> GS> No Firebird, o resultado que obtenho é sempre o mesmo, isto é,
> 3465,8412
> GS> Mas em qualquer lugar que vou, já tentei Excel, LibreOffice Calc,
> Microsoft
> GS> SQL Server a té mesmo o Google, o valor correto é 3479,6494023904.
>
> GS> Debugando porque isso acontece descobri que o problema está em
> GS> (1-(37.25/100)) na sentença, se eu trocá-la por (1-0.3725) então passa
> a
> GS> corresponder corretamente.
>
> GS> Eu gostaria de entender porque isso aconteceu para talvez olhar
> cálculos
> GS> passados.
>
> GS> []´s a todos
>
>
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br
> Para saber como gerenciar/excluir seu cadastro na lista, use:
> http://www.firebase.com.br/fb/artigo.php?id=1107
> Para consultar mensagens antigas:
> http://www.firebase.com.br/pesquisa_lista.html
>



-- 
--
B em B@BU     iB em M@B.  B em MBBO   MBBMMB em B@BZLr    E@@@@i      r@@@BU
vB em M@O     E em B@Bu   BBBM em 0   G em MMM@N8MBB em ZP5r  B em B@k      8B@@O
 OB em B@q   2 em BBBM    B em B@BO   BB em B@B,.:,7B em B@@L uB em B@,    OB em B@.
 ,@@@B@   @BBB@,    @BBB em 8   M em M@@@     PB em B@B  @@@BN   iB em B@L
  U em B@B2 LB em B@X     B em MBBO   MBBM em B     i em BBB@. 7 em B@Bi  B em B@E
   B@@@BiM em M@B.     @BBM em G   M em MMB@     v@@M em B,  G em B@Z v em B@B.
   7B em B@O em B@B5      B em B@B8   BBBM em B     Z@@@B@   iB@@@2 em B@Br
    NB em M@B em B8       @B em B@8   M em B@B em i:i75 em B@B em r    E@@B em B@Bq
    . em B@@@B@:       B em B@B@   @B@@@B em B@B@@@ME;     .BB em MBB@
     55.ANOS        OMOGBS   PBZGGOOMOO117,        7 em BBB@r
     ==============================================r@@@@F=====
     Gladiston Santana                             8 em B@B,
     Supervisor de TI                             G em B@B7
     Tel.:+551147873122 R:228                    :@B em B0
     Grupo VIDY - SGQ ISO9001 - 55 ANOS          @B em B@.
     Visite nosso site: www·vidy·com·br         BB@@@u
     Visite também : www·expolabor·com·br      GB em B@N



Mais detalhes sobre a lista de discussão lista