[firebase-br] RES: RES: RES: outro erro calculo...

[Gmail]

O meu retornou 9500000,000 pelo IBExpert usando o firebird Super Server
2.5.1.
Em qual cenário você esta rodando a query?

-----Mensagem original-----
De: lista-bounces em firebase.com.br [mailto:lista-bounces em firebase.com.br] Em
nome de felipe em brainsoft.com.br
Enviada em: terça-feira, 26 de junho de 2012 14:27
Para: 'FireBase'
Assunto: [firebase-br] RES: RES: outro erro calculo...

Não estou entendendo o seguinte...

O resultado de: select 190.00000000 * 50000.000 from rdb$database é:
9.500.000,00000000186
Não deveria ser 9.500.000,00000000 ?!

Outra duvida

Pq o firebird "soma" as casas decimais ?! o 190 esta com 8 decimais e o
50000 esta com 3 decimais
O firebird retorna um numero com 11 decimais, ou seja 8 da primeira e 3 da
segunda


Obrigado !


-----Mensagem original-----
De: lista-bounces em firebase.com.br [mailto:lista-bounces em firebase.com.br] Em
nome de felipe em brainsoft.com.br Enviada em: terça-feira, 26 de junho de 2012
13:34
Para: 'FireBase'
Assunto: [firebase-br] RES: outro erro calculo...

Também da o mesmo erro fazendo o cast externo...

-----Mensagem original-----
De: lista-bounces em firebase.com.br [mailto:lista-bounces em firebase.com.br] Em
nome de samuel ferreira Enviada em: terça-feira, 26 de junho de 2012 12:48
Para: FireBase
Assunto: Re: [firebase-br] outro erro calculo...

faca um cast externo

select cast(cast(190.000000 as numeric(15,6)) *  cast(190.000000 as
numeric(15,6)) as numeric(15,8))
from
  rdb$database

Em 26 de junho de 2012 12:25,  <felipe em brainsoft.com.br> escreveu:
> select
>   cast(190.0000000000 as numeric(15,8)) *
>   cast(190.0000000000 as numeric(15,8)) from
>   rdb$database
>
> da o seguinte erro:
>
> Statement failed, SQLSTATE = 22003
> Integer overflow.  The result of an integer operation caused the most 
> significan t bit of the result to carry.
>
> Pelo que pude notar, esse erro é devido a qtd de decimais ser maior 
> que a parte inteira, ou seja... o retorno esta vindo com 16 decimais...
>
> Se fizer o mesmo select, mudando apenas o decimal de uma das linhas do 
> cast por exemplo para 6 ai da certo Mas o resultado vem com 14 
> decimais e não com 8 select
>   cast(190.0000000000 as numeric(15,8)) *
>   cast(190.0000000000 as numeric(15,6)) from
>   rdb$database
>
> retorna
>
> 36100,0000000000073
>
> Obrigado !
>
>
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br 
> Para saber como gerenciar/excluir seu cadastro na lista, use:
> http://www.firebase.com.br/fb/artigo.php?id=1107
> Para consultar mensagens antigas: http://firebase.com.br/pesquisa



--
     Samuel Peres Ferreira
Staff Consultoria em Informatica
  44-3028-3735    44-9972-6177

______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br Para
saber como gerenciar/excluir seu cadastro na lista, use:
http://www.firebase.com.br/fb/artigo.php?id=1107
Para consultar mensagens antigas: http://firebase.com.br/pesquisa


______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br Para
saber como gerenciar/excluir seu cadastro na lista, use:
http://www.firebase.com.br/fb/artigo.php?id=1107
Para consultar mensagens antigas: http://firebase.com.br/pesquisa


______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br Para
saber como gerenciar/excluir seu cadastro na lista, use:
http://www.firebase.com.br/fb/artigo.php?id=1107
Para consultar mensagens antigas: http://firebase.com.br/pesquisa