Результаты поиска по запросу "precision"

5 ответов

Java BigDecimal тригонометрические методы

Я занимаюсь разработкой математического синтаксического анализатора, который способен оценивать строки как

4 ответа

Почему числа с плавающей запятой неточные?

Почему некоторые числа теряют точность при хранении в виде чисел с плавающей запятой?Например, десятичное число

2 ответа

Гарантированная точность функции sqrt в C / C ++

Все знают

ТОП публикаций

3 ответа

Почему этот расчет подшипника настолько неточный?

1 ответ

Как работать с большими числами в R?

Я хотел бы изменить точность вычисления R. Например, я хотел бы рассчитать

3 ответа

Анализ числа с плавающей запятой / двойной точности в 32 десятичных разрядах

Из файла .c другого парня я увидел это:

3 ответа

Как мне интерпретировать точность и масштаб числа в базе данных?

У меня есть следующий столбец, указанный в базе данных: десятичный (5,2)Как можно это интерпретировать?В соответствии со свойствами столбца, которые отобража...

3 ответа

Потеря точности Java

2 ответа

Экстремальные числовые значения в точности с плавающей точкой в ​​R

2 ответа

Почему отличается точность с плавающей точкой в ​​C #, когда они разделены парантезами и когда они разделены операторами?

Я знаю, как работает точность с плавающей запятой в обычных случаях, но я наткнулся на странную ситуацию в моем коде C #.Почему result1 и result2 не являются...