Результаты поиска по запросу "floating-point"

2 ответа

Функция раунда (рабочий лист один) в Excel

Используя Excel 2013, введя его в две ячейки, вы получите разные результаты.

1 ответ

Удвоение и деление значений с плавающей запятой

У меня есть функция, которая, как я полагаю, преобразует int в значение с плавающей запятой, разбитое на компоненты показателя степени и дроби значения. Испо...

11 ответов

Функции сравнения с плавающей точкой для C #

Может ли кто-то указать (или показать) некоторые хорошие общие функции сравнения с плавающей запятой в C # для сравнения значений с плавающей запятой? Я хочу...

ТОП публикаций

2 ответа

Оператор 'is' ведет себя неожиданно с плавающей точкой

Я столкнулся с запутанной проблемой при модульном тестировании модуля. Модуль на самом деле приводит значения, и я хочу сравнить эти значения.Есть разница по...

6 ответов

Почему Double.MIN_VALUE не отрицательный

Может кто-нибудь пролить свет на то, почему

1 ответ

обмен «порядком байтов» чисел с плавающей и двойной

3 ответа

Почему операции со значениями двойной точности не дают ожидаемых результатов?

4 ответа

Преобразовать IEEE с плавающей запятой в десятичную?

Если у меня есть плавающий гекс IEEE 42F6E979, как мне преобразовать его в десятичную? Я полагаю, что десятичное представление = 123.456001

2 ответа

извлекая мантиссу и показатель степени из двойного в c #

Есть ли какой-нибудь простой способ получить мантиссу и показатель степени от двойного в c # (или .NET в целом)?я нашелэтот пример с помощью Google, но я не ...

8 ответов

Как мне исправить этот Perl-код, чтобы 1.1 + 2.2 == 3.3?

Как мне исправить этот код, чтобы 1.1 + 2.2 == 3.3? Что на самом деле происходит здесь, что вызывает такое поведение? Я смутно знаком с проблемами округления...