Результаты поиска по запросу "precision"

4 ответа

Установить точность для числа с плавающей точкой в PHP

Я получаю номер из базы данных, и этот номер может быть либо

2 ответа

Получить точность cout

3 ответа

Точность типа данных SQL Server - Нео, что реально?

SQL Sever 2000документация:Является ли число с плавающей запятой данными со следующими действительными значениями: -От 3.40E + 38 до -1.18E - 38, 0 и 1.18E -...

ТОП публикаций

10 ответов

Получить DateTime.Now с точностью до миллисекунд

Как точно построить временную отметку реального времени с точностью до миллисекунд? Мне нужно что-то вроде 16.4.2013 9: 48: 00: 123. Это возможно? У меня есть приложение, где я выбираю значения 10 раз в секунду, и мне нужно показать их на графике.

4 ответа

Показать две цифры после десятичной точки в c ++ [дубликат]

На этот вопрос уже есть ответ здесь: Печать правильного количества десятичных знаков cout [/questions/5907031/printing-the-correct-number-of-decimal-points-with-cout] 11 ответовПодобная тема уже обсуждалась на форуме. Но у меня есть другая ...

2 ответа

Конвертировать номер Java в BigDecimal: лучший способ

Я ищу лучший способ преобразовать число в BigDecimal. Это достаточно хорошо? Number number; BigDecimal big = new BigDecimal(number.toString());Можем ли мы потерять точность сtoString() метод?

1 ответ

Проверка на равенство с плавающей точкой и дополнительная точность: может ли этот код не сработать?

Обсуждение началось вмой ответ на другой вопрос [https://stackoverflow.com/questions/16322465/finding-the-closest-floating-point-value-less-than-a-specific-integer-value-in-c/16322800#16322800] , Следующий код определяетмашина ...

1 ответ

Достаточно ли указать тип с плавающей точкой, чтобы гарантировать такие же результаты?

Я пишу спецификацию, которая описывает некоторую арифметику, которая будет выполняться программным обеспечением. Предполагается, что я могу передать эту спецификацию двум разным программистам (которые используют потенциально разные языки и / или ...

3 ответа

Потеря точности при добавлении двойников?

люди! Я столкнулся с небольшой проблемой: я делаю простое сложение с тремя двойными значениями. Результат имеет меньшую точность, чем используемые значения. double minutes = 3; minutes = minutes / (24.0*60.0); // contains 0.00208333 double hours ...

3 ответа

Высокая точность чисел с плавающей точкой в Haskell?

Я знаю, что в Haskell есть нативные типы данных, которые позволяют вам иметь действительно большие целые числа >> let x = 131242358045284502395482305 >> x 131242358045284502395482305работать как положено. Мне было интересно, если бы я мог ...