Результаты поиска по запросу "floating-point"
home.wordpress.com/2013/07/31/float-and-double-13-23-0-99999999
ы лучшие практики передачи долларовых сумм в JSON? Передача сумм в виде строк или чисел? или другой? Мы немного обеспокоены ошибками округления, отображаемыми на клиенте (iOS / Android / Web), или возможными другими значениями, отображаемыми на ...
, Это то, что вы видите.
я есть поплавок с очень важным значением, которое должно быть ОЧЕНЬ точным. Проблема в том, что я изменяю значение с плавающей точкой ВСЕГДА только + и - (здесь нет деления). После изменения значения примерно в 20 раз значение не равно 0,05, ...
Просто потому, что там больше данных - что быстрее заполняет кеш процессора, как указано в посте, который вы связали.
ользую поплавки для этих операций: Какой из этих двух является более точным? (а * б) / сили же (а / с) * бЭто имеет значение или зависит от ситуации? Если да, то что мне выбрать в каких случаях?
Вот моя интерпретация решения округления двойного к целому. Это, конечно, не является стандартом для C, но обеспечивает функциональность округления двойного до ближайшего целого числа.
иваемый C, который я использую, не имеет функции round (), если это математическая библиотека, что было бы кратким способом реализовать это в C? Я думал о том, чтобы напечатать его в строку, найти десятичный знак, затем найти первый символ после ...
http://www.cplusplus.com/reference/iostream/ios_base/precision/
аписании функции, которая будет выполнять некоторые операции с каждым числом в диапазоне, я столкнулся с некоторыми проблемами с неточностями с плавающей запятой. Проблема может быть замечена в коде ниже: #include <iostream> using namespace std; ...
плавать обычно быстрее. двойной предлагает большую точность. Однако производительность может отличаться в некоторых случаях, если используются специальные расширения процессора, такие как 3dNow или SSE.
от вопрос уже есть ответ здесь: Использование double быстрее, чем float? [/questions/3426165/is-using-double-faster-than-float] 7 ответовЯ читаю "Ускоренный C ++". Я нашел одно предложение, в котором говорится "иногдаdouble быстрее в исполнении, ...
Пример ниже может помочь в понимании этого более ясно: в Java всякий раз, когда мы используем, ищем точную информацию для любой операции, например. если мы сделаем удвоение num1 = 10e + 102; двойное число2 = 8e + 10; результат = num1 + num2;
мотрел, что это делает, но есть ли у кого-нибудь пример, когда вы будете использоватьstrictfp ключевое слово в Java? Кто-нибудь на самом деле нашел применение для этого? Будут ли какие-либо побочные эффекты от того, что я просто добавлю это на ...
Единственная проблема заключается в том, что переполнение происходит намного быстрее.
ьно простой вопрос, я думаю - я выполняю эту функцию: private double convertMetersToFeet(double meters) { //function converts Feet to Meters. double toFeet = meters; toFeet = meters*3.2808; // official conversion rate of Meters to Feet return ...
Отформатируйте его до 2 десятичных знаков:
я есть функция, принимающая аргументы с плавающей точкой (обычно целые или десятичные числа с одной значащей цифрой), и мне нужно вывести значения в строку с двумя десятичными знаками (5 -> 5,00, 5,5 -> 5,50 и т. Д.). Как я могу сделать это в Python?
Спасибо за ответ @ysth. Я хотел знать, почему значение не было сохранено при преобразовании десятичных чисел в двоичные. Тем не менее, ваш ответ не побудил меня подумать, не является ли это типизацией, которую я не понял.
исал следующую программу: #include<stdio.h> int main(void) { float f; printf("\nInput a floating-point no.: "); scanf("%f",&f); printf("\nOutput: %f\n",f); return 0; }Я нахожусь на Ubuntu и использовал GCC для компиляции вышеуказанной программы. ...