Comentários sobre: Tire a prova real e veja quem está certo ou errado…

Por: Guedes

Guedes — Tue, 03 Feb 2009 21:45:42 +0000

Obrigado Osvaldo! Já atualizei no post!

Osvaldo — Tue, 03 Feb 2009 21:29:15 +0000

Quanto ao PostgreSQL:

bdteste=# SELECT 0.5::numeric - 0.4::numeric - 0.1::numeric;
?column?
———-
0.0
(1 registro)

bdteste=# SELECT 0.5::real - 0.4::real - 0.1::real;
?column?
————–
-7.45058e-09
(1 registro)

bdteste=# SELECT 0.5::double precision - 0.4::double precision - 0.1::double precision;
?column?
———————–
-2.77555756156289e-17
(1 registro)

Como podemos ver o problema é da aritmética binária.
http://www.postgresql.org/docs/current/interactive/datatype-numeric.html
Itens 8.1.2 e 8.1.3.

Guedes — Tue, 03 Feb 2009 16:45:57 +0000

Obrigado pelo toque, foi um equívoco que passou despercebido para mim, mas é bom que sempre existem os mais atentos que nós para alertar-nos!

Um abraço. “:D

thotypous — Tue, 03 Feb 2009 16:40:16 +0000

O printf no seu programa em C está truncando a precisão do resultado obtido. Utilize:

printf("%e\n", a);