Получаю данные в виде {Exponenta, Mantissa} - {123,9135000000}, пробую получить число:
12> D = 9135000000.
9135000000
13> D*math:pow(10, -5).
91350.00000000001
В чем ошибка?
Asked
Active
Viewed 45 times
1
-
В приведенном коде ошибки нет. Что вы хотите в результате получить? – iksuy Apr 26 '16 at 11:33
-
Очевидно это ошибка округления. Если Вы ещё не знаете, что в компьютере числа вовсе не такие, как хочется некоторым, то поищите литературку на тему представления чисел в компьютере. – Sergey Apr 26 '16 at 11:35
-
Напишите ответ, чтобы вопрос был закрыт. – Dennis Y. Parygin Jul 22 '16 at 16:47
-
Сделал округление и все заработало – compressor Feb 19 '17 at 07:45