Результаты поиска по запросу "floating-point"
Можно ли сравнивать числа с плавающей запятой с 0.0 без эпсилона?
Мне известно, что для сравнения двух значений с плавающей запятой необходимо использовать некоторую эпсилон-точность, поскольку они не точны. Однако мне инте...
Как лучше суммировать много чисел с плавающей точкой?
Представьте, что у вас есть большой массив чисел с плавающей запятой разных размеров. Как правильно рассчитать сумму с наименьшей ошибкой? Например, когда ма...
Как конвертировать число с плавающей запятой в двоичный?
Может кто-нибудь сказать, пожалуйста, как я могу преобразовать это число с плавающей запятой: 12.25 в двоичный файл? Я знаю, как конвертировать "12"...
struct.unpack (struct.pack (float)) имеет ошибку округления?
При тестировании моей библиотеки,сооружатьЯ обнаружил, что тесты не выполняются, когда числа строятся, а затем анализируются обратно в число с плавающей точк...
Почему значение с плавающей точкой 4 * 0.1 выглядит хорошо в Python 3, а 3 * 0.1 - нет?
Я знаю, что большинство десятичных чисел не имеют точного представления с плавающей запятой (Математика с плавающей точкой нарушена?).Но я не понимаю почему
Почему я получаю ошибку при добавлении целого числа в число с плавающей запятой?
Я начал изучать Rust. Я попробовал эту программу:
Сравнение переменных типа float и double [дубликат]
Возможные дубликаты:Разница между поплавком и двойнымстранный вывод при сравнении float с литералом floatЯ использую Visual C ++ 6.0 и в программе я сравнива...
Преобразование строки C # в число с плавающей запятой
Мне нужно преобразовать строку в число с плавающей точкой. Это мой пример строки:1 МВт +00000,00 мм2 МВт +0000.000 мм3 МВт -00000,01 мм4 МВт +00000,00 мм5 МВ...
Детерминизм в обновлениях градиента тензорного потока?
Итак, у меня есть очень простой NN-скрипт, написанный на Tensorflow, и я с трудом пытаюсь отследить, откуда взялась некоторая «случайность».Я записалМассы,Гр...