[firebase-br] Problemas com calculos

Kléber Caneva kdcc em terra.com.br
Seg Mar 20 16:25:48 -03 2006


O problema é que o numero que é passado é um NUMERIC(15,2), então não tem 
como tirar o .00.

Mas consegui resolver fazendo assim:

Select (((Cast(140.00 as DOUBLE PRECISION) * 1.03) /0.5017) *1.035 *2 *0.50 
*0.93 *0.97) as VALOR
>From RDB$DATABASE

Só não entendi o porque...

[]´s

Kléber Caneva



----- Original Message ----- 
From: "Junior" <junior em fiorilli.com.br>
To: "FireBase" <lista em firebase.com.br>
Sent: Monday, March 20, 2006 3:46 PM
Subject: Re: [firebase-br] Problemas com calculos


Apenas retirando o ".00" do 140.00 não apresentou o erro...

Select (((140 * 1.03) /0.5017) *1.035 *2 *0.50 *0.93 *0.97) as VALOR
>From RDB$DATABASE

[]'s
Alirio Botelho Junior
--------------------------------------------------
Fiorilli S/C Ltda Software
(17) 3264-9000
email: junior em fiorilli.com.br
---------------------------------------------------
----- Original Message ----- 
From: "Kléber Caneva" <kdcc em terra.com.br>
To: "FireBase" <lista em firebase.com.br>
Sent: Monday, March 20, 2006 3:11 PM
Subject: [firebase-br] Problemas com calculos


Pessoal,

Estou fazendo um calculo que, apesar de varios elementos, é formado por
contas simples de Multiplicação e Divisão.

O problema é que o FB está me retornando o seguinte erro:

"Unsuccessful execution caused by system error that does not preclude
successful execution of subsequent statements.
Interger overflow. The result of an integer operation caused the most
significant bit of the result carry."

Coloquei abaixo uma formula reduzida do calculo para ficar mais simples o
entendimento e que causa o erro citado acima.

Select (((140.00 *1.03) /0.5017) *1.035 *2 *0.50 *0.93 *0.97) as VALOR
>From RDB$DATABASE

Alguém sabe me dizer o que está acontecendo e como resolver ?

[]´s

Kléber Caneva
______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.bavs.com.br
Para editar sua configuração na lista, use o endereço
http://mail.firebase.com.br/mailman/listinfo/lista_firebase.com.br
Para consultar mensagens antigas: http://firebase.com.br/pesquisa


-- 
No virus found in this incoming message.
Checked by AVG Free Edition.
Version: 7.1.385 / Virus Database: 268.2.4/282 - Release Date: 15/03/2006



______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.bavs.com.br
Para editar sua configuração na lista, use o endereço 
http://mail.firebase.com.br/mailman/listinfo/lista_firebase.com.br
Para consultar mensagens antigas: http://firebase.com.br/pesquisa

E-mail classificado pelo Identificador de Spam Inteligente Terra.
Para alterar a categoria classificada, visite
http://mail.terra.com.br/protected_email/imail/imail.cgi?+_u=kdcc&_l=1,1142882063.668863.3216.arrino.terra.com.br,4773,Des15,Des15

Esta mensagem foi verificada pelo E-mail Protegido Terra.
Scan engine: McAfee VirusScan / Atualizado em 20/03/2006 / Versão: 
4.4.00/4722
Proteja o seu e-mail Terra: http://mail.terra.com.br/






Mais detalhes sobre a lista de discussão lista