Результаты поиска по запросу "floating-point"
Библиотека для строгой математики с плавающей точкой в .NET
У меня есть алгоритм / вычисления в Java и модульный тест для него. Модульный тест ожидает результат с некоторой точностью / дельта. Теперь я перенес алгоритм в .NET и хотел бы использовать тот же модульный тест. Я работаю с двойным ...
re: константы: если вы тестируете в цикле, хороший компилятор поднимет нагрузку большинства из них (в регистры вне цикла), поэтому не имеет значения, находятся они рядом со столом или нет. Если они не все подходят, то некоторые должны будут оставаться горячими в кеше.
х__m256d _mm256_log2_pd (__m256d a) недоступна на других компиляторах, кроме Intel, и они говорят, что его производительность ограничена на процессорах AMD. В Интернете есть несколько реализаций, указанных вОтсутствует встроенная логика AVX ...
для нашего последнего обходного пути.
ько что прочитал интересную статью о зависании php на определенных числах с плавающей точкой, смотритеРегистр [http://www.theregister.co.uk/2011/01/04/weird_php_dos_vuln/]а ...
Все хорошо, я все еще ценю это.
имаю, что на это ответили, но я супер нуб. Я знаю, что это имеет отношение к мужчине / женщине, являющейся последовательностью, но я думал, что определил это? Как я могу получить расчет на работу? num = int(input('Please enter number of standard ...
Поэтому, чтобы ответить на ваши три вопроса, любая операция с любой точностью потенциально уязвима. Будет ли данный вклад или нет, это вопрос, на который я не знаю, как ответить, но я догадываюсь, что есть ряд факторов. 1) Насколько близок фактический ответ к ближайшей двоичной дроби. 2) Точность в двигателе, выполняющем расчет. 3) Метод, используемый для выполнения расчета (например, умножение на сдвиг битов может дать результаты, отличные от умножения на повторное сложение)
кто-то здесь, пожалуйста, помогите мне понять, как определить, когда ограничения с плавающей запятой приведут к ошибкам в ваших расчетах. Например, следующий код. CalculateTotalTax = function (TaxRate, TaxFreePrice) { ...
Для индекса читать показатель.
ался найти, как рассчитать числа с плавающей / двойной точностью / диапазон -3.402823e38 .. 3.402823e38 и -1.79769313486232e308 .. 1.79769313486232e308. Для int32 вы бы сделали 2 ^ 32 = 4294967296/2, вы получите диапазон от -2147483648 до ...
Если вы конвертируете строку в float:
я есть список Python со строками в этом формате: A1 = [' "29.0" ',' "65.2" ',' "75.2" ']Как мне преобразовать эти строки в десятичные числа для выполнения арифметических операций над элементами списка?
Выходы:
число с плавающей запятой необходимо усечь до определенной цифры после числа с плавающей запятой, оказывается, что это сделать нелегко. Например, если усечение должно быть выполнено до второй цифры после точки, числа должны быть 45,8976 => ...
Это то, что я думал. Хотя, это приятно с подтверждением.
твует ли «наилучшая практика» сравнений с числами с плавающей запятой после ряда арифметических операций с плавающей запятой? У меня есть следующий пример в R, хотя вопрос касается не только R, но и любого языка, использующего числа с плавающей ...
КСТАТИ. У меня была одна ошибка, вызванная тем фактом, что компилятор не преобразовал литерал 999999999.5 точно. Заменил на 9999999995 / 10.0 и все было хорошо.
е дубликат знаменитогоЯвляется ли математика с плавающей точкой сломанной [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], даже если это выглядит как один с первого взгляда. Я читаюdouble из текстового файла с ...