Результаты поиска по запросу "floating-point"

5 ответов

Почему эти цифры не равны?

Следующий код явно неверен. В чем проблема? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

2 ответа

потому что число находится в диапазоне от 2 ^ 6 до 2 ^ 7, поэтому интервал составляет 2 ^ -46 (= 1,42 e-14), поэтому число действует до 14-го знака после запятой

вопрос возник из чего-то странного, что я заметил после расследованияэтот вопрос в дальнейшем...Я всегда понимал переменные MATLAB какдвойная точность по умо...

4 ответа

Точность умножения на 1,0 и преобразования в целочисленные значения

Можно ли предположить, что условие(int)(i * 1.0f) == i верно для любого целого числаi?

ТОП публикаций

6 ответов

Как я могу определить, есть ли у поплавка повторяющееся десятичное расширение в C #?

Мне просто нужно знать, как я могу обнаружить повторяющееся десятичное расширение в числах с плавающей запятой. Пример: 0.123456789123456789 Повторяющаяся...

2 ответа

Две очень похожие функции с участием sin () демонстрируют совершенно разную производительность - почему?

Рассмотрим следующие две программы, которые выполняют одни и те же вычисления двумя различными способами:

8 ответов

странный вывод по сравнению с float с литералом float

2 ответа

Кортекс руки A9 кросс-компиляция странное поведение с плавающей запятой

5 ответов

Функция ParseFloat в JavaScript

Когда я добавляю два значения текстового поля, которые1,001а также0,001а потом я делаюparseFloat я получил1,0019999999, Я хочу это1,002, Можешь мне помочь?

1 ответ

Выбор чисел с плавающей запятой в десятичной форме

У меня есть небольшое число в таблице PostgreSQL: test=# CREATE TABLE test (r real); CREATE TABLE test=# INSERT INTO test VALUES (0.00000000000000000000000000000000000000000009); INSERT 0 1Когда я запускаю следующий запрос, он возвращает номер ...

6 ответов

C ++ Как избежать арифметической ошибки с плавающей точкой

Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере: