Множественные ошибки вычислений с плавающей точкой

Question

Есть функция

inline unsigned long long d(double d)
{
    return (864E9 * d + 0x014f35a9a90cc000 - 0x019DB1DED53E8000) / 10;
}

При ее работе вылетает такая ошибка(код 0xC00002B4)

Множественные ошибки вычислений с плавающей точкой (parameters: 0x00000000, 0x000005A0).

Самое интересное что эта функция вызывается дважды с одним и тем же входным параметром. И такая ошибка появляется при повторном вызове. Я пробовал сделать семпл в отдельном проекте но воспроизвести ошибку не получилось.

Что эта ошибка вообще означает? и как это можно исправить?

PS. VisualStudio 2015

Настройки проекта(Code Generation)

Smaller Type Check: No
Basic Runtime Checks: Default
Runtime Library: /MDd
Floating Point Model: Precise (/fp:precise)

PS2. Если переписать функцию так:

inline unsigned long long GetTsFromDate(double date)
{
    unsigned long long tmp = 0x014f35a9a90cc000 - 0x019DB1DED53E8000;
    double dbl = 864E9 * date;
    double dbl2 = dbl + tmp;
    double result = dbl2 / 10;
    return result;
}

То будет падать на double dbl = 864E9 * date

Answer 1

Провёл несколько экспериментов в Visual Studio 2010.

Создал консольное приложение с настройками по умолчанию (в частности, модель вычислений с плавающей точкой /fp:precise, исключения с плавающей точкой отключены /fp:except-). Все примеры выполнялись в Debug-режиме.

Воспользуемся функцией _statusfp2 для того чтобы узнать floating-point status word в следующем простом примере:

#include <iostream>
#include <limits>
#include <float.h>
using namespace std;
#pragma fenv_access (on)

int main()
{
    cout.precision(numeric_limits<double>::max_digits10);
    unsigned int x86, SSE2;
    double d;

    _statusfp2(&x86, &SSE2);
    cout << x86 << " " << SSE2 << endl;
    d = 0.0;
    d = d * 1.0;
    _statusfp2(&x86, &SSE2);
    cout << d << endl;
    cout << x86 << " " << SSE2 << endl;

    return 0;
}

В моём случае, программа выдала следующий результат:

0 0
0
0 0

Насколько я понял, нулевые значения переменных x86 и SSE2 означают, что при вычислениях с плавающей точкой никаких исключительных ситуаций не произошло. Это логично, ибо никаких "опасных" вычислений в данном пример не осуществляется.

Воспользуемся примером из вашего вопроса:

d = 864E9;
d = d * 43083.341116850243; 
_statusfp2(&x86, &SSE2);
cout << d << endl;
cout << x86 << " " << SSE2 << endl;

В моем случае программа выдала следующий результат:

37224006724958608
1 0

В приведённом выводе программы есть два важных момента.

Во-первых, результат перемножения двух чисел 864E9 и 43083.341116850243 получился не точным. Это легко проверить перемножением этих чисел на калькуляторе: точный результат содержит 20 значащих цифр. Такое число не может быть представлено в переменной типа double.

Во-вторых, изменилось состояние floating-point status word. Судя по справке, status word приняло значение _EM_INEXACT. То есть имела место исключительная ситуация — результат арифметической операции не может быть точно представлен в переменной типа double. Тем не менее, программа завершила свою работу нормально, никакого исключения сгенерировано не было. Это обусловлено тем, что по-умолчанию исключения с плавающей точкой замаскированы.

Воспользуемся функцией _controlfp_s для того, чтобы демаскировать исключение _EM_INEXACT:

 unsigned int currentControl
_clearfp();
_controlfp_s(&currentControl, 0, 0);
_controlfp_s(nullptr, 
             currentControl & ~static_cast<unsigned int>(_EM_INEXACT), 
             _MCW_EM);

d = 864E9;
d = d * 43083.341116850243; 

В этот раз на строке d = d * 43083.341116850243; выскакивает ошибка:

0xC000008F: Floating-point inexact result.

В настройках проекта включим расширенный набор инструкций /arch:SSE2 и на той же самой строке выскакивает немного другая ошибка:

0xC00002B4: Множественные ошибки вычислений с плавающей точкой.

А это весьма похоже на ошибку в вашем вопросе.

Полагаю, где-то в вашем проекте по какой-то причине демаскируются исключения с плавающей точкой, и обратная маскировка не производится.

Помимо исключения _EM_INEXACT есть также исключения _EM_INVALID, _EM_DENORMAL, _EM_ZERODIVIDE, _EM_OVERFLOW и _EM_UNDERFLOW. Замаскировать их все можно следующим образом:

_clearfp();
_controlfp_s(nullptr, _MCW_EM, _MCW_EM);

P.S. При манипулировании floating-point status word прагма #pragma fenv_access (on) обязательна, иначе компилятор может проигнорировать манипуляции.

Также, если всё-таки хочется обрабатывать исключения с плавающей точкой, то судя по всему необходимо использовать опцию /fp:except, иначе может что-нибудь сломаться. Но тут я не уверен.

Answer 2

В вашей второй функции первая строка меня очень смущает.

unsigned long long tmp = 0x014f35a9a90cc000 - 0x019DB1DED53E8000;

Зачем вы присваиваете unsigned long число, которое заведомо меньше нуля? Тут даже видно, 0х014 - 0х019. И зачем вам long long, когда хватит обычного long? У меня при выполнении этого действия(отладка) tmp == 18424652457709551616

Далее, смотрю на первую функцию. Вижу что-то вроде переполнения.

864E9 * d + 0x014f35a9a90cc000 

здесь вы к double результату 864E9 * d прибавляете 0x014f35a9a90cc000, а второе число уже длиннее пятнадцати значащих знаков double, вряд ли вы контролируете это переполнение. (у double после 15-го знака идут нули) Ну и далее, от сомнительного результата предыдущего действия вы отнимаете еще один long, значение которого опять же больше double. Вот вам и множественные ошибки вычислений.

По умолчанию такие ошибки(исключения) скрыты, у вас, видимо, они включены.