Результаты поиска по запросу "floating-point"
Вывести различную точность по столбцам с помощью pandas.DataFrame.to_csv ()?
ВопросМожно ли указать точность с плавающей точкой специально для каждого столбца, который будет напечатан Python?pandas пакетный ...
Как числа с плавающей запятой хранятся в памяти?
Я читал, что они хранятся в форме мантиссы и экспоненты я прочелэтот документ [http://www.cprogramming.com/tutorial/floating_point/understanding_floating_point_representation.html] но я ничего не мог понять.
Как Float округляется при преобразовании его в целое число?
Если бы у меня был (float)value = 10.50и делай int new_value = (int)valueкакие правила будут округлять число?
Должны ли мы вообще использовать литералы с плавающей точкой для чисел вместо простых двойных литералов?
В C ++(или, может быть, только наши компиляторы VC8 и VC10) 3.14 является двойным буквальным и3.14f является литералом с плавающей точкой. Теперь у меня есть коллега, который заявил: Мы должны использовать плавающие литералы для вычислений с ...
Время выполнения с плавающей запятой
Чем объясняется добавленное время выполнения первого набора данных? Инструкции по сборке одинаковы. Если флаг DN_FLUSH не включен, первый набор данных занимает 63 миллисекунды, второй набор занимает 15 миллисекунд. При установленном флаге ...
Перестановка уравнения
У меня есть следующее уравнение в моем коде C k * dl * (1.0 + pHold / centre + (pHold * pHold) / (2.0 * centre * centre) - square / (2.0 * centre))Я знаю, что деления с плавающей запятой намного дороже, чем умножения, и я боролся с этим ...
Почему это вычитание не равно нулю?
Я столкнулся с этими значениями в моем коде ColdFusion, но калькулятор Google, похоже, имеет ту же «ошибку», где разница не равна нулю. 416582,2850 - 411476,8100 - 5105,475 = ...
iOS5 Xcode4.2 ошибка выравнивания байтов с плавающей точкой?
Посмотрите на этот код: это файл определения структуры с 1-байтовой упаковкой структуры (для работы с сокетами) #pragma pack(1) typedef struct _TestStruct1 { double d1; double d2; } TestStruct1; typedef struct _TestStruct2 { unsigned long v1; ...
Какой самый быстрый способ конвертировать float в int на x86
Какой самый быстрый из известных вам способов преобразования чисел с плавающей запятой в int на процессоре x86. Предпочтительно в C или сборке (которая может быть встроена в C) для любой комбинации следующего: 32/64/80-битное число с плавающей ...
Точность Matlab: простое вычитание не равно нулю
Я вычисляю эту простую сумму на Matlab: 2*0.04-0.5*0.4^2 = -1.387778780781446e-017но результат не ноль. Что я могу сделать?