Результаты поиска по запросу "precision"
Какая самая высокая шкала точности времени может быть достигнута через Python?
Рассмотрим очень простой таймер; start = time.time() end = time.time() - start while(end<5): end = time.time() - start print endнасколько точен этот таймер? Я имею в виду, по сравнению с часами реального времени, насколько это синхронизировано и ...
загар 45 дает мне 0,9999
Почемуtan 45(0,7853981633974483 в радианах) дайте мне0.9999? Что не так со следующим кодом? System.out.println(Math.tan(Math.toRadians(45.0)) );Я не думаю, что здесь есть опечатка. Так в чем же здесь решение?
Почему оператор приращения Java допускает сужение операций без явного приведения? [Дубликат]
Возможный дубликат: Java + = оператор [https://stackoverflow.com/questions/8710619/java-operator] В Java это недопустимо (не компилируется), как и ожидалось: long lng = 0xffffffffffffL; int i; i = 5 + lng; //"error: possible loss ...
Точка в алгоритме Polygon иногда дает неверные результаты [закрыто]
В StackOverflow я видел алгоритм трассировки лучей «точка в многоугольнике», который я реализовал в своем PHP-коде. В большинстве случаев это работает хорошо, но в некоторых сложных случаях, со сложными полигонами и порочными точками, он терпит ...
Какова максимальная точность таймера в .NET?
Мне интересно, какова точность класса Timer в System.Timers, потому что он удваивается (что может указывать на то, что у вас могут быть доли миллисекунд). Что это такое?
Почему 5/2 дает «2», даже когда я использую поплавок? [Дубликат]
На этот вопрос уже есть ответ: Каково поведение целочисленного деления? [/questions/3602827/what-is-the-behavior-of-integer-division] 5 ответов Я ввел следующий код (и у меня не было проблем с компиляцией или чего-либо еще): float y = 5/2; ...
PHP - Точность плавающего числа [дубликат]
На этот вопрос уже есть ответ: Математика с плавающей точкой нарушена? [/questions/588004/is-floating-point-math-broken] 28 ответов$a = '35'; $b = '-34.99'; echo ($a + $b); Результаты в 0.009999999999998 Что с этим случилось? Я задавался ...
Какая библиотека произвольной точности (для скорости) для C ++? [Дубликат]
На этот вопрос уже есть ответ: Лучшая кроссплатформенная (портативная) математическая библиотека произвольной точности [закрыто] [/questions/2568446/the-best-cross-platform-portable-arbitrary-precision-math-library] 5 ответов Мне нужна самая ...