Результаты поиска по запросу "floating-point"
Я наконец решил написать свою собственную функцию. Я размещаю это здесь, чтобы оно могло помочь людям:
я есть значение с плавающей точкой, представляющее GPS-координаты, и мне понравилось преобразовывать его в 32-битную шестнадцатеричную строку. Я пробовал каждое решение, ...
КСТАТИ. У меня была одна ошибка, вызванная тем фактом, что компилятор не преобразовал литерал 999999999.5 точно. Заменил на 9999999995 / 10.0 и все было хорошо.
е дубликат знаменитогоЯвляется ли математика с плавающей точкой сломанной [https://stackoverflow.com/questions/588004/is-floating-point-math-broken], даже если это выглядит как один с первого взгляда. Я читаюdouble из текстового файла с ...
Это то, что я думал. Хотя, это приятно с подтверждением.
твует ли «наилучшая практика» сравнений с числами с плавающей запятой после ряда арифметических операций с плавающей запятой? У меня есть следующий пример в R, хотя вопрос касается не только R, но и любого языка, использующего числа с плавающей ...
Все хорошо, я все еще ценю это.
имаю, что на это ответили, но я супер нуб. Я знаю, что это имеет отношение к мужчине / женщине, являющейся последовательностью, но я думал, что определил это? Как я могу получить расчет на работу? num = int(input('Please enter number of standard ...
re: константы: если вы тестируете в цикле, хороший компилятор поднимет нагрузку большинства из них (в регистры вне цикла), поэтому не имеет значения, находятся они рядом со столом или нет. Если они не все подходят, то некоторые должны будут оставаться горячими в кеше.
х__m256d _mm256_log2_pd (__m256d a) недоступна на других компиляторах, кроме Intel, и они говорят, что его производительность ограничена на процессорах AMD. В Интернете есть несколько реализаций, указанных вОтсутствует встроенная логика AVX ...
Просто потому, что там больше данных - что быстрее заполняет кеш процессора, как указано в посте, который вы связали.
ользую поплавки для этих операций: Какой из этих двух является более точным? (а * б) / сили же (а / с) * бЭто имеет значение или зависит от ситуации? Если да, то что мне выбрать в каких случаях?
home.wordpress.com/2013/07/31/float-and-double-13-23-0-99999999
ы лучшие практики передачи долларовых сумм в JSON? Передача сумм в виде строк или чисел? или другой? Мы немного обеспокоены ошибками округления, отображаемыми на клиенте (iOS / Android / Web), или возможными другими значениями, отображаемыми на ...
; тем не менее, вам нужно сделать два умножения с плавающей точкой, которых нельзя избежать.
нтересован в написании быстрой C-программы, которая переворачивает показатель в два раза. Например, эта программа должна конвертировать 1e300 в 1e-300. Я думаю, что лучшим способом были бы некоторые битовые операции, но мне не хватает знаний, ...