[firebase-br] Problemas com calculos
Carlos H. Cantu (TeamFB)
listas em warmboot.com.br
Seg Mar 20 16:34:25 -03 2006
Acredito que o problema esteja na forma com que o parser está
determinando o tipo final do resultado do calculo. Como vc tem muitas
multiplicações com campos usando até 4 casas decimais, o
parser está tentar reservar mais casa decimais do que o maior tipo de
dado do Firebird pode aceitar.
Tente quebrar o cálculo:
Select (((140.00 * 1.03) /0.5017) * 0,9336735) as VALOR
from RDB$DATABASE
onde 0,9336735 = (1.035 *2 *0.50 *0.93 *0.97)
[]s
Cantu (Membro do TeamFB - FireBase)
http://www.warmboot.com.br
FireBase - http://www.FireBase.com.br
KC> Pessoal,
KC> Estou fazendo um calculo que, apesar de varios elementos, é
KC> formado por contas simples de Multiplicação e Divisão.
KC> O problema é que o FB está me retornando o seguinte erro:
KC> "Unsuccessful execution caused by system error that does not
KC> preclude successful execution of subsequent statements.
KC> Interger overflow. The result of an integer operation caused the
KC> most significant bit of the result carry."
KC> Coloquei abaixo uma formula reduzida do calculo para ficar mais
KC> simples o entendimento e que causa o erro citado acima.
KC> Select (((140.00 *1.03) /0.5017) *1.035 *2 *0.50 *0.93 *0.97) as VALOR
>>From RDB$DATABASE
KC> Alguém sabe me dizer o que está acontecendo e como resolver ?
KC> []´s
KC> Kléber Caneva
KC> ______________________________________________
KC> FireBase-BR (www.firebase.com.br) - Hospedado em www.bavs.com.br
KC> Para editar sua configuração na lista, use o endereço
KC> http://mail.firebase.com.br/mailman/listinfo/lista_firebase.com.br
KC> Para consultar mensagens antigas: http://firebase.com.br/pesquisa
Mais detalhes sobre a lista de discussão lista