Результаты поиска по запросу "precision"
Что такое c printf% f точность по умолчанию?
Мне любопытно: Если вы делаете
Регулировка десятичной точности, .net
Эти строки в C #
В чем разница между операциями с плавающей запятой одинарной и двойной точности?
В чем разница между операцией с плавающей запятой одинарной точности и операцией с плавающей запятой двойной точности? Меня особенно интересуют практические термины в отношении игровых приставок. Например, есть ли в Nintendo 64 64-битный ...
Matlab использует математику с плавающей точкой с точностью до 16 цифр (отображается только 5).
у программу, в которой мне нужно удалить дублирующиеся точки, хранящиеся в матрице. Проблема состоит в том, что когда дело доходит до проверки, находятся ли эти точки в матрице, MATLAB не может распознать их в матрице, хотя они существуют. В ...
Нет. Помимо того факта, что double является двоичным и, следовательно, не подходит для десятичных значений, double имеет максимум 15/16 десятичных цифр (53 бита). десятичное число имеет максимум 28/29 цифр (96 бит), поэтому было бы хорошо использовать его. Если у вас более высокая точность в базе данных, вам нужен собственный класс bignum для C #, ищите реализации в stackoverflow.
. У меня есть двойной (который я извлек из базы данных), который имеет точность 20 цифр. В Visual Studio (с использованием QuickWatch) я вижу значение двойного = 0.00034101243963859839. Я хочу отобразить это значение в текстовом поле, а затем ...
или же
то, что JavaBigDecimal может быть это больно? Double d = 13.3D; BigDecimal bd1 = new BigDecimal(d); BigDecimal bd2 = new BigDecimal(String.valueOf(d)); System.out.println("RESULT 1: "+bd1.toString()); System.out.println("RESULT 2: ...
Как лучше суммировать много чисел с плавающей точкой?
Представьте, что у вас есть большой массив чисел с плавающей запятой разных размеров. Как правильно рассчитать сумму с наименьшей ошибкой? Например, когда ма...
Что такое стандартная (или лучше всего поддерживаемая) библиотека больших чисел (произвольная точность) для Lua?
Я работаю с большими числами, которые я не могу округлить. Используя стандартную математическую библиотеку Lua, кажется, нет удобного способа сохранить точно...