[firebase-br] RES: RES: RES: outro erro calculo...

[felipe em brainsoft.com.br]

Esron.
também não resolve.
Pq se eu colocar mais tres decimais no 50000.000 ficando 50000.00000 da o
seguinte erro

Statement failed, SQLSTATE = 22003
Integer overflow.  The result of an integer operation caused the most
significan t bit of the result to carry.

Se eu multiplicar usando ou nao o cast qualquer valor superior a 184 da o
erro acima
Exemplo:
select 184.00000000 * 50000.0000 from rdb$database não da erro

select 185.00000000 * 50000.0000 from rdb$database da erro...

obrigado

-----Mensagem original-----
De: lista-bounces em firebase.com.br [mailto:lista-bounces em firebase.com.br] Em
nome de Esron Toledo
Enviada em: terça-feira, 26 de junho de 2012 14:42
Para: FireBase
Assunto: Re: [firebase-br] RES: RES: outro erro calculo...

É só você fazer um CAST externo que resolve o seu problema.

SELECT CAST((CAST(COALESCE(190.00000000, 0) AS NUMERIC(15,8))*50000.000)AS
NUMERIC(15,8))
FROM rdb$database

Em 26 de junho de 2012 14:26, <felipe em brainsoft.com.br> escreveu:

> Não estou entendendo o seguinte...
>
> O resultado de: select 190.00000000 * 50000.000 from rdb$database é:
> 9.500.000,00000000186
> Não deveria ser 9.500.000,00000000 ?!
>
> Outra duvida
>
> Pq o firebird "soma" as casas decimais ?! o 190 esta com 8 decimais e 
> o 50000 esta com 3 decimais O firebird retorna um numero com 11 
> decimais, ou seja 8 da primeira e 3 da segunda
>
>
> Obrigado !
>
>
> -----Mensagem original-----
> De: lista-bounces em firebase.com.br 
> [mailto:lista-bounces em firebase.com.br]
> Em
> nome de felipe em brainsoft.com.br
> Enviada em: terça-feira, 26 de junho de 2012 13:34
> Para: 'FireBase'
> Assunto: [firebase-br] RES: outro erro calculo...
>
> Também da o mesmo erro fazendo o cast externo...
>
> -----Mensagem original-----
> De: lista-bounces em firebase.com.br 
> [mailto:lista-bounces em firebase.com.br]
> Em
> nome de samuel ferreira Enviada em: terça-feira, 26 de junho de 2012 
> 12:48
> Para: FireBase
> Assunto: Re: [firebase-br] outro erro calculo...
>
> faca um cast externo
>
> select cast(cast(190.000000 as numeric(15,6)) *  cast(190.000000 as
> numeric(15,6)) as numeric(15,8))
> from
>  rdb$database
>
> Em 26 de junho de 2012 12:25,  <felipe em brainsoft.com.br> escreveu:
> > select
> >   cast(190.0000000000 as numeric(15,8)) *
> >   cast(190.0000000000 as numeric(15,8)) from
> >   rdb$database
> >
> > da o seguinte erro:
> >
> > Statement failed, SQLSTATE = 22003
> > Integer overflow.  The result of an integer operation caused the 
> > most significan t bit of the result to carry.
> >
> > Pelo que pude notar, esse erro é devido a qtd de decimais ser maior 
> > que a parte inteira, ou seja... o retorno esta vindo com 16 decimais...
> >
> > Se fizer o mesmo select, mudando apenas o decimal de uma das linhas 
> > do cast por exemplo para 6 ai da certo Mas o resultado vem com 14 
> > decimais e não com 8 select
> >   cast(190.0000000000 as numeric(15,8)) *
> >   cast(190.0000000000 as numeric(15,6)) from
> >   rdb$database
> >
> > retorna
> >
> > 36100,0000000000073
> >
> > Obrigado !
> >
> >
> > ______________________________________________
> > FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br 
> > Para saber como gerenciar/excluir seu cadastro na lista, use:
> > http://www.firebase.com.br/fb/artigo.php?id=1107
> > Para consultar mensagens antigas: http://firebase.com.br/pesquisa
>
>
>
> --
>      Samuel Peres Ferreira
> Staff Consultoria em Informatica
>   44-3028-3735    44-9972-6177
>
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br 
> Para saber como gerenciar/excluir seu cadastro na lista, use:
> http://www.firebase.com.br/fb/artigo.php?id=1107
> Para consultar mensagens antigas: http://firebase.com.br/pesquisa
>
>
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br 
> Para saber como gerenciar/excluir seu cadastro na lista, use:
> http://www.firebase.com.br/fb/artigo.php?id=1107
> Para consultar mensagens antigas: http://firebase.com.br/pesquisa
>
>
> ______________________________________________
> FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br 
> Para saber como gerenciar/excluir seu cadastro na lista, use:
> http://www.firebase.com.br/fb/artigo.php?id=1107
> Para consultar mensagens antigas: http://firebase.com.br/pesquisa
>



--
**
*
*
*
*
*
*
*
*
______________________________________________
FireBase-BR (www.firebase.com.br) - Hospedado em www.locador.com.br Para
saber como gerenciar/excluir seu cadastro na lista, use:
http://www.firebase.com.br/fb/artigo.php?id=1107
Para consultar mensagens antigas: http://firebase.com.br/pesquisa