[firebase-br] Problemas com calculos
Carlos H. Cantu (TeamFB)
listas em warmboot.com.br
Seg Mar 20 17:19:24 -03 2006
Tirando o .00, o FB trata 140 como inteiro.
O resultado de "inteiro" * 1.03 é alguma coisa com 2 casas decimais.
O resultado de 140.00 * 1.03 é alguma coisa com 4 casas decimais, que
multiplicado pelos outros fatores, faz com que o Firebird pense que
não vai caber em nenhum tipo de dado existente.
Ex:
1 * 1.00 = 1.00
1.00 * 1.00 = 1.0000
1.00 * 1.00 * 1.00 = 1.000000
No exemplo original, devia estar dando um resultado com 17 casas
decimais!
[]s
Cantu (Membro do TeamFB - FireBase)
http://www.warmboot.com.br
FireBase - http://www.FireBase.com.br
J> Apenas retirando o ".00" do 140.00 não apresentou o erro...
J> Select (((140 * 1.03) /0.5017) *1.035 *2 *0.50 *0.93 *0.97) as VALOR
>>From RDB$DATABASE
J> []'s
J> Alirio Botelho Junior
J> --------------------------------------------------
J> Fiorilli S/C Ltda Software
J> (17) 3264-9000
J> email: junior em fiorilli.com.br
Mais detalhes sobre a lista de discussão lista