Результаты поиска по запросу "precision"

1 ответ

Как работать с большими числами в R?

Я хотел бы изменить точность вычисления R. Например, я хотел бы рассчитать

3 ответа

Почему оператор приращения Java допускает сужение операций без явного приведения? [Дубликат]

Возможный дубликат: Java + = оператор [https://stackoverflow.com/questions/8710619/java-operator] В Java это недопустимо (не компилируется), как и ожидалось: long lng = 0xffffffffffffL; int i; i = 5 + lng; //"error: possible loss ...

1 ответ

Арифметика с плавающей точкой - оператор по модулю двойного типа

Поэтому я пытаюсь выяснить, почему оператор по модулю возвращает такое большое необычное значение.Если у меня есть код:

ТОП публикаций

6 ответов

Matlab использует математику с плавающей точкой с точностью до 16 цифр (отображается только 5).

у программу, в которой мне нужно удалить дублирующиеся точки, хранящиеся в матрице. Проблема состоит в том, что когда дело доходит до проверки, находятся ли эти точки в матрице, MATLAB не может распознать их в матрице, хотя они существуют. В ...

2 ответа

Какая самая высокая шкала точности времени может быть достигнута через Python?

Рассмотрим очень простой таймер; start = time.time() end = time.time() - start while(end<5): end = time.time() - start print endнасколько точен этот таймер? Я имею в виду, по сравнению с часами реального времени, насколько это синхронизировано и ...

3 ответа

Почему оператор приращения Java допускает сужение операций без явного приведения? [Дубликат]

Возможный дубликат:Java + = операторВ Java это недопустимо (некомпилировать), как и ожидалось:

1 ответ

Синхронизация PTP на сервере Windows (по сравнению с Linux) - какая точность может быть гарантирована

Я хотел бы знать, если все знают, как точноPTP [http://en.wikipedia.org/wiki/Precision_Time_Protocol]синхронизация может быть гарантирована на Windows Server 2008. Я знаю об этой теме:Какое минимальное гарантированное время для процесса ...

3 ответа

Objective-C - Как повысить точность числа с плавающей точкой

Может кто-нибудь, пожалуйста, покажите мне способ установить точность числа с плавающей запятой до желаемой длины. Скажем, у меня есть номер 2504.6. Как видите, здесь точность равна 1. Я хочу установить ее на шесть. Мне это нужно, потому что я ...

10 ответов

В чем разница между операциями с плавающей запятой одинарной и двойной точности?

В чем разница между операцией с плавающей запятой одинарной точности и операцией с плавающей запятой двойной точности? Меня особенно интересуют практические термины в отношении игровых приставок. Например, есть ли в Nintendo 64 64-битный ...

3 ответа

Точность типа данных SQL Server - Нео, что реально?

SQL Sever 2000документация:Является ли число с плавающей запятой данными со следующими действительными значениями: -От 3.40E + 38 до -1.18E - 38, 0 и 1.18E -...