Результаты поиска по запросу "floating-point-precision"

1 ответ

эпсилон для различных значений с плавающей точкой

Есть

1 ответ

Почему использование модуля по нецелым значениям теряет точность с плавающей точкой? [Дубликат]

На этот вопрос уже есть ответ здесь:Почему я вижу двойную переменную, инициализированную некоторым значением, таким как 21.4, как 21.399999618530273? 14 отве...

1 ответ

Как избежать ошибок с плавающей запятой?

Я пытался написать функцию для аппроксимации квадратных корней (я знаю, чтос математическим модулем ... я хочу сделать это сам), и меня облажала арифметика с...

ТОП публикаций

1 ответ

Существует ли parseDouble в JavaScript?

1 ответ

Точность repr (f), str (f), print (f), когда f является плавающим

Если я бегу:

1 ответ

Почему использование модуля по нецелым значениям теряет точность с плавающей точкой? [Дубликат]

На этот вопрос уже есть ответ здесь: Почему я вижу двойную переменную, инициализированную некоторым значением, таким как 21.4, как ...

1 ответ

Как избежать ошибок с плавающей запятой?

Я пытался написать функцию для аппроксимации квадратных корней (я знаю, что есть математический модуль ... Я хочу сделать это сам), и меня облажала арифметика с плавающей запятой. Как вы можете избежать этого? def sqrt(num): root = 0.0 while ...

1 ответ

Существует ли parseDouble в JavaScript?

В JavaScript у меня есть число, состоящее из 21 цифры, и я хочу его проанализировать. Существует ли метод parseDouble в JavaScript?

2 ответа

Как сделать так, чтобы цифры не отображались в научной форме?

2 ответа

Получить следующий наименьший двухместный номер

В рамках модульного теста мне нужно проверить некоторые граничные условия. Один метод принимает