Результаты поиска по запросу "floating-point"
Почему эти цифры не равны?
Следующий код явно неверен. В чем проблема? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
потому что число находится в диапазоне от 2 ^ 6 до 2 ^ 7, поэтому интервал составляет 2 ^ -46 (= 1,42 e-14), поэтому число действует до 14-го знака после запятой
вопрос возник из чего-то странного, что я заметил после расследованияэтот вопрос в дальнейшем...Я всегда понимал переменные MATLAB какдвойная точность по умо...
Точность умножения на 1,0 и преобразования в целочисленные значения
Можно ли предположить, что условие(int)(i * 1.0f) == i верно для любого целого числаi?
Как я могу определить, есть ли у поплавка повторяющееся десятичное расширение в C #?
Мне просто нужно знать, как я могу обнаружить повторяющееся десятичное расширение в числах с плавающей запятой. Пример: 0.123456789123456789 Повторяющаяся...
Две очень похожие функции с участием sin () демонстрируют совершенно разную производительность - почему?
Рассмотрим следующие две программы, которые выполняют одни и те же вычисления двумя различными способами:
Функция ParseFloat в JavaScript
Когда я добавляю два значения текстового поля, которые1,001а также0,001а потом я делаюparseFloat я получил1,0019999999, Я хочу это1,002, Можешь мне помочь?
Выбор чисел с плавающей запятой в десятичной форме
У меня есть небольшое число в таблице PostgreSQL: test=# CREATE TABLE test (r real); CREATE TABLE test=# INSERT INTO test VALUES (0.00000000000000000000000000000000000000000009); INSERT 0 1Когда я запускаю следующий запрос, он возвращает номер ...
C ++ Как избежать арифметической ошибки с плавающей точкой
Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере: