Результаты поиска по запросу "floating-point"
Получение неправильного ответа в двойной арифметике в Java [duplicate]
Возможный дубликат: Двойной расчет дает странный результат [https://stackoverflow.com/questions/8253789/double-calculation-producing-odd-result] Я пишу программу на Java, которая имеет дело с двойной арифметикой. Я в конечном итоге добираюсь до ...
Как напечатать двойной с запятой
В C ++ у меня есть переменная float / double. Когда я печатаю это, например, cout, результирующая строка разделяется точкой. cout << 3.1415 << endl $> 3.1415Есть ли простой способ заставить двойник печататься через запятую? cout << 3.1415 << ...
Хотя 3 * 0,1 не может быть точно представлено, почему Javascript может правильно рассчитать 0,15 * 2? [Дубликат]
Возможный дубликат: Математика с плавающей точкой в JavaScript нарушена? [https://stackoverflow.com/questions/588004/is-javascripts-floating-point-math-broken] В Javascript, 3 * 0.1 = 0.30000000000000004Я думаю, что это связано с системой ...
Почему Microsoft не хочет исправлять неправильные реализации Equals и GetHashCode с NaN? [закрыто]
В .NET Framework, реализация (override) изEquals(object) а такжеGetHashCode() для типов с плавающей точкой (System.Double а такжеSystem.Single) является неправильно, Цитировать изMSDNGetHashCode(object) ...
Найдите поплавок чуть ниже значения
Скажем, у меня есть число с плавающей запятой X. Я хочу найти наибольшее число, которое меньше X и может быть сохранено без потерь в поплавке. IIRC Стандарт IEEE говорит, что вы можете сделать это, преобразовав биты с плавающей точкой в ...
Эффективный способ округления чисел с двойной точностью до более низкой точности, заданной числом бит
В C # я хочу округлить двойные числа с меньшей точностью, чтобы я мог хранить их в контейнерах различного размера в ассоциативном массиве. В отличие от обычного округления, я хочу округлить до нескольких значащих битов. Таким образом, большие ...
Некорректное округление числа с плавающей запятой при использовании ToString («F1»)
У меня есть значение с плавающей точкой: 12345.6489 Когда я форматирую это с помощью: (12345.6489f) .ToString ( "F1") Тогда я получаю результат 12345,7 Но это неверно, так как должно быть 12345,6. Кто-нибудь понимает, почему это может ...
битовое представление двойного числа
Я сделал эту программу, которая функционирует, как и ожидалось, чтобы узнать представление битов с плавающей точкой: float x1=-675.78125; int *pint1; pint1=(int *)&x1; for(int i=0;i<8*sizeof(float);i++) { if(*pint1&1) { cout<<1; } else cout<<0; ...
C # Math.Pow () не работает
И нет, это (на мой взгляд) не связано с целочисленным делением или проблемами округления с плавающей точкой. Мой точный код: static void Main(string[] args) { double power = (double)1.0 / (double)7.0; double expBase = -128.0; ...
Lua - упаковка чисел с плавающей точкой одинарной точности IEEE754
Я хочу сделать функцию в чистом Lua, которая генерируетдробная часть(23 бита), показатель степени(8 бит) иподписать(1 бит) от числа, так что число приблизительно равноmath.ldexp(fraction, exponent - 127) * (sign == 1 and -1 or 1), а затем ...