Результаты поиска по запросу "floating-point"
Как преобразовать экспоненты в десятичные дроби в PHP
У меня есть такая строка: 9.018E-14Теперь я хочу преобразовать в это обычные десятичные числа.
Почему экспоненциальная запись с десятичными значениями терпит неудачу? [закрыто]
Условно1e3 означает10**3. >>> 1e3 1000.0 >>> 10**3 1000Подобный случайexp(3) по сравнению сe**3. >>> exp(3) 20.085536923187668 >>> e**3 20.085536923187664Однако теперь обратите внимание, является ли показатель степениfloat стоимость: >>> ...
Как я могу превратить число с плавающей запятой в ближайшую дробь, представленную байтовым числителем и знаменателем?
Как я могу написать алгоритм с заданным числом с плавающей запятой и попытками его представления с максимально возможной точностью, используя числитель и знаменатель, оба из которых ограничены диапазоном байта Java? Причиной этого является то, ...
Как преобразовать число с плавающей точкой в int в современном C ++
Как ни странно, я не могу найти, как правильно конвертироватьfloat чтобыint. Эта техника int int_value = (int)(float_value + 0.5);запускает warning: use of old-style castв gcc. Итак, что такое современный стиль, простой способ ...
Найти мин / макс с плавающей / двойной, который имеет такое же внутреннее представление
Обновление наплавающие точки [http://docs.sun.com/source/806-3568/ncg_goldberg.html](такжеPDF [http://www.validlab.com/goldberg/paper.pdf]), IEEE-754 и участиев этом обсуждении округления с плавающей запятой при преобразовании в ...
Что такое широкий диапазон значений float и double в Java?
Что такое широкий диапазон значений float и double в Java? Почему не рекомендуется использовать float или double для чего-либо, где точность важна?
PHP конвертировать строки в плавающий / двойной
У меня есть список строк (размер в байтах), я читаю их из файла. Допустим, одна из строк - 2968789218, но когда я конвертирую ее в число с плавающей точкой, она становится 2,00. Это мой код до сих пор: $string = "2968789218"; $float = ...
Несоответствие типов данных в Фортране
Я написал элементарный алгоритм на Фортране 95 для вычисления градиента функции (пример которого прописан в коде) с использованием центральных различий, дополненных процедурой, известной как экстраполяция Ричардсона. function f(n,x) ! The scalar ...
Почему sprintf в Perl неправильно округляет числа с плавающей точкой?
Я искал соглашение о округлении, используемое встроенной функцией PerlSprintf [http://perldoc.perl.org/functions/sprintf.html]. Я думал, что это делает нормальное округление (например, ROUND_HALF_UP как в Соглашение о режиме округления в ...
Двоичное представление числа с плавающей точкой в Python (биты не шестнадцатеричные)
Как получить строку в виде двоичного IEEE 754 представления 32-разрядного числа с плавающей запятой? пример 1.00 -> '00111111100000000000000000000000'