Результаты поиска по запросу "precision"
Установить точность для числа с плавающей точкой в PHP
Я получаю номер из базы данных, и этот номер может быть либо
Точность типа данных SQL Server - Нео, что реально?
SQL Sever 2000документация:Является ли число с плавающей запятой данными со следующими действительными значениями: -От 3.40E + 38 до -1.18E - 38, 0 и 1.18E -...
Получить DateTime.Now с точностью до миллисекунд
Как точно построить временную отметку реального времени с точностью до миллисекунд? Мне нужно что-то вроде 16.4.2013 9: 48: 00: 123. Это возможно? У меня есть приложение, где я выбираю значения 10 раз в секунду, и мне нужно показать их на графике.
Показать две цифры после десятичной точки в c ++ [дубликат]
На этот вопрос уже есть ответ здесь: Печать правильного количества десятичных знаков cout [/questions/5907031/printing-the-correct-number-of-decimal-points-with-cout] 11 ответовПодобная тема уже обсуждалась на форуме. Но у меня есть другая ...
Конвертировать номер Java в BigDecimal: лучший способ
Я ищу лучший способ преобразовать число в BigDecimal. Это достаточно хорошо? Number number; BigDecimal big = new BigDecimal(number.toString());Можем ли мы потерять точность сtoString() метод?
Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?
Обсуждение началось вмой ответ на другой вопрос [https://stackoverflow.com/questions/16322465/finding-the-closest-floating-point-value-less-than-a-specific-integer-value-in-c/16322800#16322800] , Следующий код определяетмашина ...
Достаточно ли указать тип с плавающей точкой, чтобы гарантировать такие же результаты?
Я пишу спецификацию, которая описывает некоторую арифметику, которая будет выполняться программным обеспечением. Предполагается, что я могу передать эту спецификацию двум разным программистам (которые используют потенциально разные языки и / или ...
Потеря точности при добавлении двойников?
люди! Я столкнулся с небольшой проблемой: я делаю простое сложение с тремя двойными значениями. Результат имеет меньшую точность, чем используемые значения. double minutes = 3; minutes = minutes / (24.0*60.0); // contains 0.00208333 double hours ...
Высокая точность чисел с плавающей точкой в Haskell?
Я знаю, что в Haskell есть нативные типы данных, которые позволяют вам иметь действительно большие целые числа >> let x = 131242358045284502395482305 >> x 131242358045284502395482305работать как положено. Мне было интересно, если бы я мог ...