Результаты поиска по запросу "precision"
Как работать с большими числами в R?
Я хотел бы изменить точность вычисления R. Например, я хотел бы рассчитать
Почему оператор приращения Java допускает сужение операций без явного приведения? [Дубликат]
Возможный дубликат: Java + = оператор [https://stackoverflow.com/questions/8710619/java-operator] В Java это недопустимо (не компилируется), как и ожидалось: long lng = 0xffffffffffffL; int i; i = 5 + lng; //"error: possible loss ...
Арифметика с плавающей точкой - оператор по модулю двойного типа
Поэтому я пытаюсь выяснить, почему оператор по модулю возвращает такое большое необычное значение.Если у меня есть код:
Matlab использует математику с плавающей точкой с точностью до 16 цифр (отображается только 5).
у программу, в которой мне нужно удалить дублирующиеся точки, хранящиеся в матрице. Проблема состоит в том, что когда дело доходит до проверки, находятся ли эти точки в матрице, MATLAB не может распознать их в матрице, хотя они существуют. В ...
Какая самая высокая шкала точности времени может быть достигнута через Python?
Рассмотрим очень простой таймер; start = time.time() end = time.time() - start while(end<5): end = time.time() - start print endнасколько точен этот таймер? Я имею в виду, по сравнению с часами реального времени, насколько это синхронизировано и ...
Почему оператор приращения Java допускает сужение операций без явного приведения? [Дубликат]
Возможный дубликат:Java + = операторВ Java это недопустимо (некомпилировать), как и ожидалось:
Синхронизация PTP на сервере Windows (по сравнению с Linux) - какая точность может быть гарантирована
Я хотел бы знать, если все знают, как точноPTP [http://en.wikipedia.org/wiki/Precision_Time_Protocol]синхронизация может быть гарантирована на Windows Server 2008. Я знаю об этой теме:Какое минимальное гарантированное время для процесса ...
Objective-C - Как повысить точность числа с плавающей точкой
Может кто-нибудь, пожалуйста, покажите мне способ установить точность числа с плавающей запятой до желаемой длины. Скажем, у меня есть номер 2504.6. Как видите, здесь точность равна 1. Я хочу установить ее на шесть. Мне это нужно, потому что я ...
В чем разница между операциями с плавающей запятой одинарной и двойной точности?
В чем разница между операцией с плавающей запятой одинарной точности и операцией с плавающей запятой двойной точности? Меня особенно интересуют практические термины в отношении игровых приставок. Например, есть ли в Nintendo 64 64-битный ...
Точность типа данных SQL Server - Нео, что реально?
SQL Sever 2000документация:Является ли число с плавающей запятой данными со следующими действительными значениями: -От 3.40E + 38 до -1.18E - 38, 0 и 1.18E -...