Результаты поиска по запросу "floating-point"

2 ответа

Почему я получаю разные результаты от std :: fmod и std :: remainder

3 ответа

Почему GDB оценивает арифметику с плавающей точкой иначе, чем C ++?

Я столкнулся с чем-то немного запутанным, пытаясь решить арифметическую задачу с плавающей точкой. Сначала код. Я привел суть моей проблемы в этот пример: #include <iostream> #include <iomanip> using namespace std; typedef union {long long ll; ...

2 ответа

Две очень похожие функции с участием sin () демонстрируют совершенно разную производительность - почему?

Рассмотрим следующие две программы, которые выполняют одни и те же вычисления двумя различными способами:

ТОП публикаций

4 ответа

Какие-нибудь реальные процессоры не используют IEEE 754?

2 ответа

Есть ли сценарий, где можно использовать функцию FMA в libc?

2 ответа

Это обычное поведение для типа данных с плавающей точкой из-за специфики операций с плавающей точкой на компьютерах. Используйте десятичный (числовой) тип данных с фиксированными цифрами после десятичной точки. Например, десятичный (10, 6).

я возникли проблемы с преобразованием некоторых данных, хранящихся в типе данных FLOAT, в данные, хранящиеся в типе данных INT. Приведенный ниже пример иллюс...

1 ответ

умножение с плавающей запятой против повторного сложения

11 ответов

Это дает 0100 0000 1010 0110 0110 0110 1000 0001 (1084647041)

урок, я наткнулся на то, как изобразить число с плавающей запятой в памяти. В учебнике был пример с числом с плавающей запятой. float a=5.2 with below Diagram Кто-нибудь может рассказать, как этот 5.2 преобразуется в двоичный файл и как ...

3 ответа

Вот

ыло интересно, есть ли способ преодоления проблемы точности, которая, кажется, является результатом внутреннего представления моей машины чисел с плавающей точкой: Для ясности проблема сводится к следующему: // str is "4.600"; atof( str ) is ...

4 ответа

PHP:

ли способ получить двоичное представление числа с плавающей запятой в PHP? Что-то вроде JavaDouble.doubleToRawLongBits () [http://download.oracle.com/javase/6/docs/api/java/lang/Double.html#doubleToRawLongBits(double)] . Учитывая положительное ...