Проблема с точность float при вычислениях

Question

Вот простой пример.

float number = 0.9f;

number -= 0.1f;

// ВЫВОД: number = 0,79999995

Мне нужно получить 0,8. Как решить проблему с точностью?

score 2 · Answer 1 · edited Nov 28 '20 at 10:23

2

Используйте вместо float decimal

decimal number = 0.9m;
number -= 0.1m;
Console.WriteLine(number);

edited Nov 28 '20 at 10:23

Danis

19,777
6
22
56

answered Nov 28 '20 at 10:23

Maxim Kostenko

41
6

По заданию нужно использовать float – mrabets Nov 28 '20 at 10:32
Как звучит задание? – Эникейщик Nov 28 '20 at 10:33
Так выводится значение 0,8 при типе данных float – Maxim Kostenko Nov 28 '20 at 10:36
У меня нет. Работаю на c# .net core – mrabets Nov 28 '20 at 10:41

score 2 · Answer 2 · answered Nov 28 '20 at 10:52

Поскольку 0.79999995 - это реальное значение переменной типа float в данном случае (ну, не умеет этот тип хранить числа с абсолютной точностью), то у вас один вариант - ограничить точность отображения переменной при выводе, тогда она округлится до нужного вам значения:

using System;
public class Program
{
    public static void Main()
    {
        float number = 0.9f;
        number -= 0.1f;
        Console.WriteLine($"{number:f1}");
    }
}

Вывод:

0.8

Ссылка на код на dotnetfiddle в среде .NET 5

А если мне надо далее работать с переменной? — mrabets, Nov 28 '20 at 10:55
@mrabets Работайте, кто ж вам мешает. Но учтите, что точного значения переменная float хранить не умеет, всегда будет приблизительное. Но обычно и такого хватает для обычных вычислений. — CrazyElf, Nov 28 '20 at 10:57

Проблема с точность float при вычислениях

2 Answers2