потому что число находится в диапазоне от 2 ^ 6 до 2 ^ 7, поэтому интервал составляет 2 ^ -46 (= 1,42 e-14), поэтому число действует до 14-го знака после запятой

вопрос возник из чего-то странного, что я заметил после расследованияэтот вопрос в дальнейшем...Я всегда понимал переменные MATLAB какдвойная точность по умо...

@Martin: как указано выше. Виноват :(

мер, эти переменные:

Это то, что вы делаете в конце. Но получить эти значения для каждой эпохи и посмотреть, как они развиваются?

Для моего варианта использования это было быстрое и эффективное решение. Просто отметьте, что это означает, что когда вы декодируете его обратно из JSON, это будет строка, поскольку она будет заключена в двойные кавычки.

Арифметика с фиксированной точкой может работать, потому что x ^ 2 + y ^ 2 остается <4 (когда 2 - типичное значение escape).

ли практический способ выполнить вычисления, такие как те, которые участвуют в создании набора Мандельброта для значений для точного

 типа работает.

ал уравнение с использованием двойной точности, и я получил

Понял! большое спасибо

Неожиданные результаты при работе с очень большими целыми числами на интерпретируемых языках

Я пытаюсь получить сумму1 + 2 + ... + 1000000000, но я получаю забавные результаты в PHP иNode.js [http://en.wikipedia.org/wiki/Node.js]. PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", ...

GMP

жные дубликаты: Большие целые числа в C # [https://stackoverflow.com/questions/176775/big-integers-in-c] C # неограниченное количество значащих десятичных цифр (произвольная точность) без ...

Просто потому, что там больше данных - что быстрее заполняет кеш процессора, как указано в посте, который вы связали.

ользую поплавки для этих операций: Какой из этих двух является более точным? (а * б) / сили же (а / с) * бЭто имеет значение или зависит от ситуации? Если да, то что мне выбрать в каких случаях?