Questions tagged [числа-с-плавающей-точкой]

Метка используется, когда в вопросе упоминаются проблемы или работа с числами с плавающей точкой, например: 1.34, 53.185, 1.25 и т.д.

Числа с плавающей точкой - экспоненциальная форма представления вещественных (действительных) чисел, в которой число хранится в виде мантиссы и порядка (показателя степени). При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную

84 questions
1
vote
2 answers

Сравнение чисел с плавающей запятой с ограниченной точностью

Нужно сравнить следующие пары чисел с точностью до 4-х значащих цифр. 1134 и 1132 9933 и 9932 11344 и 11342 99343 и 99342. Соответственно, в первых двух случаях числа получаются неравными, а в последних - равными. Пробовал ввести заранее…
1
vote
1 answer

Ограничение точности вычислений

Есть такой вопрос: почему точность вычислений ограничена именно седьмым знаком после запятой(на скрине видно, что начиная именно со значения pi=3.1415927 значение площади не меняется). Единственный вариант, который мне пришел в голову, связан с…