Результаты поиска по запросу "precision"

6 ответов

Сколько двойных чисел существует между 0,0 и 1,0?

Это то, о чем я думал в течение многих лет, но у меня никогда не было времени, чтобы спросить раньше.Многие (псевдо) генераторы случайных чисел генерируют сл...

6 ответов

Определить точность и масштаб определенного числа в Python

У меня есть переменная в Python, содержащая число с плавающей запятой (например,

1 ответ

Что именно является параметром «разрешения» numpy float

Я ищу больше понимания о параметре «разрешения» для numpy float (я думаю, что любой компьютер определил float по этому вопросу).Рассмотрим следующий скрипт:

ТОП публикаций

1 ответ

Как конвертировать в поплавки в JavaScript?

Я хочу иметь возможность использовать

5 ответов

Запись IEEE 754-1985 в качестве ASCII с двойной строкой из 16 байтов

Это продолжение моегооригинальный пост, Но я повторю это для ясности:Согласно стандарту DICOM, тип с плавающей запятой может быть сохранен с использованием п...

4 ответа

MongoDB: Как получить точность N десятичных знаков в запросе

Учитывая следующие документы в коллекции MongoDB ...

1 ответ

Реализован ли numpy.sum таким образом, чтобы избежать числовых ошибок?

Хорошо известно, что сложение чисел может привести к числовым ошибкам (например, если первое число действительно большое, тогда как есть много других небольш...

7 ответов

Разница между toFixed () и toPrecision ()?

Я новичок в JavaScript и только что обнаружил

2 ответа

сколько целых чисел в IEEE 754

7 ответов

Двойная точность в C ++ (или pow (2, 1000))

Я работаю над Project Euler, чтобы освежить свои навыки программирования на C ++ при подготовке к задачам по программированию, которые у нас будут в следующе...