[firebase-br] outro erro calculo...
felipe em brainsoft.com.br
felipe em brainsoft.com.br
Ter Jun 26 12:25:57 -03 2012
select
cast(190.0000000000 as numeric(15,8)) *
cast(190.0000000000 as numeric(15,8))
from
rdb$database
da o seguinte erro:
Statement failed, SQLSTATE = 22003
Integer overflow. The result of an integer operation caused the most
significan
t bit of the result to carry.
Pelo que pude notar, esse erro é devido a qtd de decimais ser maior que a
parte inteira, ou seja... o retorno esta vindo com 16 decimais...
Se fizer o mesmo select, mudando apenas o decimal de uma das linhas do cast
por exemplo para 6 ai da certo
Mas o resultado vem com 14 decimais e não com 8
select
cast(190.0000000000 as numeric(15,8)) *
cast(190.0000000000 as numeric(15,6))
from
rdb$database
retorna
36100,0000000000073
Obrigado !
Mais detalhes sobre a lista de discussão lista