Результаты поиска по запросу "precision"

3 ответа

Арифметическая точность с двойными числами в Matlab

2 ответа

Какова точность вычислений с плавающей точкой в ​​Scilab?

Примечание. Я использовал тег Matlab только на тот случай, если они поддерживают одинаковую точность. (Из того, что я могу сказать, обе программы очень похож...

2 ответа

Почему «бесконечность» не допускается в поплавках Эрланга?

ТОП публикаций

3 ответа

Ускорьте генерацию случайных чисел в MATLAB

Есть ли способ генерировать псевдослучайные числа с меньшей точностью и тем самым ускорить процесс?Другое дело, что я знаю, что это экономит время, если случ...

5 ответов

Как лучше суммировать много чисел с плавающей точкой?

Представьте, что у вас есть большой массив чисел с плавающей запятой разных размеров. Как правильно рассчитать сумму с наименьшей ошибкой? Например, когда ма...

3 ответа

Детерминизм в обновлениях градиента тензорного потока?

Итак, у меня есть очень простой NN-скрипт, написанный на Tensorflow, и я с трудом пытаюсь отследить, откуда взялась некоторая «случайность».Я записалМассы,Гр...

1 ответ

Поэтому бесполезно отлавливать эти исключения с плавающей запятой. Даже недостаток спорен. Я бы не стал ловить его по умолчанию, но я вижу его полезность.

аюсь прочитать значение с плавающей точкой из входного файла в

2 ответа

Донни, я понимаю, что в (30,15) результат равен 61 и уменьшается до 38. Однако, исходя из формулы, которую я увидел, кажется, что моя шкала должна быть -2 или что-то вроде. Какова формула для определения масштаба?

3 ответа

 условие оценивается как

ение одинаковых значений с плавающей точкой в ​​Cстранный вывод по сравнению с float с литералом floatПоплавок дополнения повышен в два раза?Я прочитал вышеу...

9 ответов

Вы можете добавить логику для округления, чтобы избежать длинных последовательностей 9, как в последнем результате.