[firebase-br] outro erro calculo...

felipe em brainsoft.com.br felipe em brainsoft.com.br
Ter Jun 26 12:25:57 -03 2012


select
   cast(190.0000000000 as numeric(15,8)) *
   cast(190.0000000000 as numeric(15,8))
from
   rdb$database

da o seguinte erro:	

Statement failed, SQLSTATE = 22003
Integer overflow.  The result of an integer operation caused the most
significan
t bit of the result to carry.

Pelo que pude notar, esse erro é devido a qtd de decimais ser maior que a
parte inteira, ou seja... o retorno esta vindo com 16 decimais...

Se fizer o mesmo select, mudando apenas o decimal de uma das linhas do cast
por exemplo para 6 ai da certo
Mas o resultado vem com 14 decimais e não com 8
select
   cast(190.0000000000 as numeric(15,8)) *
   cast(190.0000000000 as numeric(15,6))
from
   rdb$database

retorna

36100,0000000000073

Obrigado !





Mais detalhes sobre a lista de discussão lista