Результаты поиска по запросу "floating-point"
Функция раунда (рабочий лист один) в Excel
Используя Excel 2013, введя его в две ячейки, вы получите разные результаты.
Удвоение и деление значений с плавающей запятой
У меня есть функция, которая, как я полагаю, преобразует int в значение с плавающей запятой, разбитое на компоненты показателя степени и дроби значения. Испо...
Функции сравнения с плавающей точкой для C #
Может ли кто-то указать (или показать) некоторые хорошие общие функции сравнения с плавающей запятой в C # для сравнения значений с плавающей запятой? Я хочу...
Оператор 'is' ведет себя неожиданно с плавающей точкой
Я столкнулся с запутанной проблемой при модульном тестировании модуля. Модуль на самом деле приводит значения, и я хочу сравнить эти значения.Есть разница по...
Почему Double.MIN_VALUE не отрицательный
Может кто-нибудь пролить свет на то, почему
Преобразовать IEEE с плавающей запятой в десятичную?
Если у меня есть плавающий гекс IEEE 42F6E979, как мне преобразовать его в десятичную? Я полагаю, что десятичное представление = 123.456001
извлекая мантиссу и показатель степени из двойного в c #
Есть ли какой-нибудь простой способ получить мантиссу и показатель степени от двойного в c # (или .NET в целом)?я нашелэтот пример с помощью Google, но я не ...
Как мне исправить этот Perl-код, чтобы 1.1 + 2.2 == 3.3?
Как мне исправить этот код, чтобы 1.1 + 2.2 == 3.3? Что на самом деле происходит здесь, что вызывает такое поведение? Я смутно знаком с проблемами округления...