Результаты поиска по запросу "double-precision"
Имеет ли JavaScript двойную точность чисел с плавающей точкой?
Я знаю, что это странный вопрос, но способен ли JavaScript работать с double, а не с одинарными числами? (64-разрядные числа с плавающей запятой против 32-ра...
StrictMath не обязательно более точен, это просто всегда один и тот же определенный результат. (И это не будет иметь никакого значения здесь.)
тоящее время я пишу программу калькулятора в Java. Это моя первая Java-программа, я привык к C ++. Я заметил, что двойники в java совсем не похожи на двойники в c ++. попробуйте это в Java и C ++ 4,1 * 3 что / 0,1 так должно быть 12,3, затем ...
Что каждый ученый должен знать об арифметике с плавающей точкой
тировал часть своего кода, в javascript я добавил .1 + .2, и он дает мне .30000000000000004 вместо .3. Я не понимаю этого. Но когда я добавил .1 + .3, это дает мне .4. Я нашел его в Google и нашел кое-что о дополнении Double Precision. Но я не ...
, Разница между ними такова:
а гарантированная точность оператора умножения для двойных значений в Java? Например, 2,2 * 100 - это 220,00000000000003, а 220 - это двойное число. 220.00000000000003 - следующий дубль после 220.
Пожалуйста, будьте честны и напишите это явно.
у выполнить операции ввода-вывода на диск для программы, которая занимает слишком много оперативной памяти. Я использую матрицы двойников и думаю, что запись их на диск как байты - самый быстрый способ (мне нужно сохранить двойную точность). Как ...
Нет, вам нужно либо корректировать все значения одно за другим (муль на 100, принять int, делить на 100), либо вам нужно написать свой собственный класс MySpecialDouble (который делает то же самое прямо за сценой).
я есть следующая проблема: double a = 6.005; double b = 5.995; Я хочу, чтобы установить точность двойных 2 цифры после точки, например double c = a+b;// I would like to get 11.99 not 12.00. Как я могу это сделать?
Реализовано ли целочисленное умножение с использованием точности с плавающей запятой двойной точности до 2 ^ 53?
Я спрашиваю, потому что я вычисляю матричные умножения, где все значения матрицы являются целыми числами. Я хотел бы использовать LAPACK, чтобы получить быстрый правильный код. Будет два больших целых числа (чье произведение меньше2^53), ...
Страница 2 из 2