Результаты поиска по запросу "floating-point"
, Как говорится, числа с плавающей запятой не являются точными в процессоре.
ценке выражения: *main> [0, 0.1 .. 1]Я действительно ожидал: [0, 0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1]Но я был очень потрясен, увидев, что результат ...
В действительности не имеет смысла продвигать скаляр в массив, поэтому я все же думаю, что вам нужны две версии, чтобы вызывающая сторона могла правильно передать массив и скаляр. Но, безусловно, было бы целесообразно, чтобы один позвонил другому.
аюсь понять некоторый код во время выполнения языка D. Кажется, что есть две отдельные функции для следующих двух вещей: array1[] += scalar * array2[]; array1[] += array2[] * scalar;Почему это нельзя сделать с помощью одной функции? Я думал, что ...
Я абсолютно не понимаю, что вы имеете в виду!
треть этот код: function testprecision(){ var isNotNumber = parseFloat('1.3').toPrecision(6); alert(typeof isNotNumber); //=> string }Я бы ожидал число. Если 'isNotNumber' должен быть действительным числом, решение проблемы заключается ...
Платформы, которые обеспечивают операции IEEE-754, обычно должны обеспечивать как сравнение числового равенства (для проверки арифметических свойств), так и сравнение порядка сортировки и идентичности (для использования при вставке объектов в отсортированные списки или другие структуры, такие как словари).
го, что я смог найти, IEEE определяет NaN, чтобы не равняться себе в системе счисления с плавающей запятой. Единственный раз, когда мне приходилось сравнивать NaN с NaN, - это сравнение записей в фреймах данных, и в этом случае это свойство NaN ...
Другой пример:
[https://cran.r-project.org/doc/FAQ/R-FAQ.html#Why-doesn_0027t-R-think-these-numbers-are-equal_003f] говорится, что: Единственными числами, которые могут быть представлены точно в числовом типе R, являются целые числа и дроби, знаменатель ...
действительно помогает улучшить качество вашего поста. Помните, что вы отвечаете на вопрос читателей в будущем, и эти люди могут не знать причин, по которым вы предлагаете код.
ы можем извлечь десятичную часть числа с плавающей запятой и сохранить десятичную часть и целую часть в две отдельные целочисленные переменные?
Пожалуйста, попробуйте это, это работает для вас.
ы вырубаешьсяпоплавокпримитив в Java, чтобыдва десятичныхместа, без использования округления? 123.99999 to 123.99 -8.022222 to -8.02Не должно быть никакого округления, просто вырежьте десятичные знаки и оставьте два. Второй момент, как ...
Это намного проще контролировать.
мог найти максимум два десятичных числа, которые могут быть сохранены в float? Насколько я понимаю, в 32-разрядном формате с плавающей запятой у нас есть 24 (23 + 1) для хранения числа, исключая показатель степени. 2 ^ 24 - это максимальное ...
основываясь на статье, на которую я ссылаюсь, вы можете попробовать сравнить числа как целые числа. Если они находятся в пределах 1 целого числа друг от друга, они лежат в пределах одного шага с плавающей запятой / двойной точности друг от друга. Если вы знаете, что ни один из аргументов не равен нулю, вы можете сравнить числа с плавающей запятой / удвоения с некоторой минимальной точностью.
спользовании типа данных double или float в приложении для iPhone у меня возникают проблемы со сравнениями "> =" и "<=", поскольку при присвоении переменной число, введенное с одним десятичным знаком, например 4.2, число с плавающей запятой или ...
Проблема не в обычной проблеме точности с плавающей точкой, а в том, что исходный плакат заставляет «(x> = 0)» возвращать false в состоянии цикла, когда «x == 0» имеет значение true вне цикла.
м численном моделировании у меня есть код, подобный следующему фрагменту double x; do { x = /* some computation */; } while (x <= 0.0); /* some algorithm that requires x to be (precisely) larger than 0 */С определенными компиляторами (например, ...