Результаты поиска по запросу "precision"

1 ответ

Понял! большое спасибо

4 ответа

Для меня это распечатка результатов типа "2 строки в наборе (0.00000000 сек)". Но SHOW PROFILES говорит, что это занимает около миллисекунды. Поэтому я подозреваю, что исходные данные, которые подают данные, недостаточно высокого разрешения, чтобы это могло помочь.

отаю над оптимизацией и заметил, что в некоторых дампах mysql, которые люди публикуют в статьях и вопросах (которые я не могу найти сейчас, когда я на самом деле смотрю), существуют высокоточные времена выполнения (0.05985215 сек. вместо 0,06 ...

2 ответа

Почему «бесконечность» не допускается в поплавках Эрланга?

ТОП публикаций

2 ответа

потому что число находится в диапазоне от 2 ^ 6 до 2 ^ 7, поэтому интервал составляет 2 ^ -46 (= 1,42 e-14), поэтому число действует до 14-го знака после запятой

вопрос возник из чего-то странного, что я заметил после расследованияэтот вопрос в дальнейшем...Я всегда понимал переменные MATLAB какдвойная точность по умо...

6 ответов

Какова максимальная точность таймера в .NET?

Мне интересно, какова точность класса Timer в System.Timers, потому что он удваивается (что может указывать на то, что у вас могут быть доли миллисекунд). Что это такое?

4 ответа

Округление с плавающей точкой. Он пытается сказать 2.01, но не может выразить его в точности как число с плавающей запятой, поэтому он делает все возможное.

у так? >>> max(2, 2.01) 2.0099999999999998

2 ответа

Можно ли использовать вычисления Пи Монте-Карло для мирового рекорда?

У меня есть эта случайная функция для расчета пиСтиль Монте-Карло [http://math.fullerton.edu/mathews/n2003/montecarlopimod.html]: max=10000000; format long; in = 0; tic for k=1:max x = rand(); y = rand(); if sqrt(x^2 + y^2) < 1 in = in + 1; ...

3 ответа

Почему оператор приращения Java допускает сужение операций без явного приведения? [Дубликат]

Возможный дубликат:Java + = операторВ Java это недопустимо (некомпилировать), как и ожидалось:

2 ответа

Получить точность cout

Я могу установить точностьcout вывод с использованием cout.precision(precision_value);как я могуполучить значение точности, которое используетсяcout уже? Я не могу найти другую связанную функцию вcout ...

4 ответа

Показать две цифры после десятичной точки в c ++ [дубликат]