Результаты поиска по запросу "floating-point"
Почему GDB оценивает арифметику с плавающей точкой иначе, чем C ++?
Я столкнулся с чем-то немного запутанным, пытаясь решить арифметическую задачу с плавающей точкой. Сначала код. Я привел суть моей проблемы в этот пример: #include <iostream> #include <iomanip> using namespace std; typedef union {long long ll; ...
Две очень похожие функции с участием sin () демонстрируют совершенно разную производительность - почему?
Рассмотрим следующие две программы, которые выполняют одни и те же вычисления двумя различными способами:
Это обычное поведение для типа данных с плавающей точкой из-за специфики операций с плавающей точкой на компьютерах. Используйте десятичный (числовой) тип данных с фиксированными цифрами после десятичной точки. Например, десятичный (10, 6).
я возникли проблемы с преобразованием некоторых данных, хранящихся в типе данных FLOAT, в данные, хранящиеся в типе данных INT. Приведенный ниже пример иллюс...
Это дает 0100 0000 1010 0110 0110 0110 1000 0001 (1084647041)
урок, я наткнулся на то, как изобразить число с плавающей запятой в памяти. В учебнике был пример с числом с плавающей запятой. float a=5.2 with below Diagram Кто-нибудь может рассказать, как этот 5.2 преобразуется в двоичный файл и как ...
Вот
ыло интересно, есть ли способ преодоления проблемы точности, которая, кажется, является результатом внутреннего представления моей машины чисел с плавающей точкой: Для ясности проблема сводится к следующему: // str is "4.600"; atof( str ) is ...
PHP:
ли способ получить двоичное представление числа с плавающей запятой в PHP? Что-то вроде JavaDouble.doubleToRawLongBits () [http://download.oracle.com/javase/6/docs/api/java/lang/Double.html#doubleToRawLongBits(double)] . Учитывая положительное ...