Результаты поиска по запросу "floating-point"
Если e равно 255, а f не равно нулю, объект является NaN (не числом). Значение поля f NaN зависит от реализации; это не полностью определено стандартом. Обычно, если первый бит равен нулю, это сигнал NaN; в противном случае это тихий NaN.
й викистатья [http://en.wikipedia.org/wiki/Single_precision_floating-point_format]он показывает 23 бита для точности, 8 для показателя степени и 1 для знака Где скрытый 24-й бит в типе float, который составляет (23 + 1) для 7 значащих и цифр?
Обычно двоичные файлы используются, потому что они могут быть более эффективно организованы в битах. Десятичная дробь обычно используется, когда требуется абсолютная десятичная точность, например, при подсчете денег.
я возникли проблемы с пониманием, почему некоторые цифры не могут быть представлены числом с плавающей запятой. Как мы знаем, нормальное число с плавающей точкой будет иметь бит знака, показатель степени и мантиссу. Почему, например, 0,1 нельзя ...
отлично.
жные дубликаты: Возможная потеря доли [https://stackoverflow.com/questions/1061334/possible-loss-of-fraction] Каково поведение целочисленного деления в ...
: Не все переопределения методов работают, по крайней мере, в 1.9.3p0:
ыло интересно, можно ли при определенных условиях удалять ошибки с плавающей запятой, не прибегая к типам данных произвольной точности. Проблема обычная. Язык Ruby, но он поддерживается на любом языке: f = 1829.82 => 1829.82 f / 12.0 => 152.485 ...
Почти правильно. Просто опустите двойные кавычки в вызове valueOf:
аюсь преобразовать следующую шестнадцатеричную строку: "41630D54FFF68872" в 9988776.0 (float-64). С одинарной точностью float-32 я бы сделал: int intBits = Long.valueOf("hexFloat32", 16).intValue(); float floatValue ...
https://github.com/GuillaumeLeclerc/number-parsing
аюсь разобрать два значения из таблицы данных. Поля являются числовыми, и когда они имеют запятую (например, 554,20), я не могу получить числа после запятой. я пробовалparseInt а такжеparseFloat, Как я могу это сделать?
Вы не хотите полагаться на то, что MyFloat равен 0, чтобы указать неудачное преобразование, вы хотите полагаться на возвращаемое значение bool.
равильно преобразовать строку научной нотации, такой как «1.234567E-06», в переменную с плавающей запятой, используя C #?
Это точно, но нет точного (или двоичного) точного представления с плавающей точкой. Так что поплавки вообще НЕ точны. Мое указание на точность - это представление, которое программист использует для определения литералов (и в любой базе нет плавающей запятой, которая может точно их представить).
две аналогичные программы Matlab, одна итерация 10 раз, а другая 11 раз. Один: i = 0; x = 0.0; h = 0.1; while x < 1.0 i = i + 1; x = i * h; disp([i,x]); end Другая: i = 0; x = 0.0; h = 0.1; while x < 1.0 i = i + 1; x = x + h; disp([i,x]); ...
минимизирует количество пропусков кеша, при условии, что вы выбрали правильный размер узла. Это должно сделать это довольно быстро на практике.
орошо известны все проблемы, связанные со сравнением поплавков. Это как раз причина этого вопроса. Я хочу создать быструю хэш-таблицу для значений, которые являются трехмерными векторами (3 числа с плавающей точкой - x, y, z). Можно предположить, ...
Метод Convert - фантастический, отличный ответ. Большинство других ответов на этот вопрос в StackExchange и многих других сайтах вращаются вокруг приведения к десятичным числам, что невозможно, если вы заранее не знаете точности и масштаба.
ющий sql declare @a as float, @b as float select @a=1.353954 , @b=1.353956 select CAST(@a as VARCHAR(40)) AS a_float_to_varchar , CAST(@b as VARCHAR(40)) AS b_float_to_varcharрезультаты в a_float_to_varchar b_float_to_varchar ...