[firebase-br] Problemas com calculos

Carlos H. Cantu (TeamFB) listas em warmboot.com.br
Seg Mar 20 16:34:25 -03 2006


Acredito que o problema esteja na forma com que o parser está
determinando o tipo final do resultado do calculo. Como vc tem muitas
multiplicações com campos usando até 4 casas decimais, o
parser está tentar reservar mais casa decimais do que o maior tipo de
dado do Firebird pode aceitar.

Tente quebrar o cálculo:

Select (((140.00 * 1.03) /0.5017) * 0,9336735) as VALOR
from RDB$DATABASE

onde 0,9336735 = (1.035 *2 *0.50 *0.93 *0.97)

[]s
Cantu (Membro do TeamFB - FireBase)
http://www.warmboot.com.br
FireBase - http://www.FireBase.com.br

KC> Pessoal, 

KC> Estou fazendo um calculo que, apesar de varios elementos, é
KC> formado por contas simples de Multiplicação e Divisão.

KC> O problema é que o FB está me retornando o seguinte erro: 

KC> "Unsuccessful execution caused by system error that does not
KC> preclude successful execution of subsequent statements.
KC> Interger overflow. The result of an integer operation caused the
KC> most significant bit of the result carry."

KC> Coloquei abaixo uma formula reduzida do calculo para ficar mais
KC> simples o entendimento e que causa o erro citado acima.

KC> Select (((140.00 *1.03) /0.5017) *1.035 *2 *0.50 *0.93 *0.97) as VALOR
>>From RDB$DATABASE

KC> Alguém sabe me dizer o que está acontecendo e como resolver ?

KC> []´s

KC> Kléber Caneva
KC> ______________________________________________
KC> FireBase-BR (www.firebase.com.br) - Hospedado em www.bavs.com.br
KC> Para editar sua configuração na lista, use o endereço
KC> http://mail.firebase.com.br/mailman/listinfo/lista_firebase.com.br
KC> Para consultar mensagens antigas: http://firebase.com.br/pesquisa





Mais detalhes sobre a lista de discussão lista