Результаты поиска по запросу "floating-point"

0 ответов

Почему Microsoft не хочет исправлять неправильные реализации Equals и GetHashCode с NaN? [закрыто]

В .NET Framework, реализация (override) изEquals(object) а такжеGetHashCode() для типов с плавающей точкой (System.Double а такжеSystem.Single) является неправильно, Цитировать изMSDNGetHashCode(object) ...

0 ответов

Как увеличить число на 0,01 в JavaScript, используя цикл?

проблемаЯ пытался составить список высот в консоли по метрам, начиная с 1,20 м и заканчивая 2,50 м. Я использовал этот код: var heights = []; for ( var i=1.20, l=2.5; i<l; i+=0.01 ){ heights.push(i); } heights = heights.join('\n');Если ...

1 ответ

Переменные с плавающей запятой присваивают значение из строки выше

У меня есть приложение для iOS, которое делает вещи, которые мне не совсем понятны. У меня есть несколько переменных с плавающей точкой, определенных в моем ...

ТОП публикаций

1 ответ

Расширенная библиотека с плавающей запятой точности C / C ++

Я ищу расширенную библиотеку с плавающей запятой со следующими функциями: fixed data type size (i.e. the extended precision float takes a fixed amount of m...

1 ответ

Стандарт IEEE-754 на графическом процессоре NVIDIA (sm_13)

Если я выполню операцию с плавающей запятой (одинарной точности) на хосте и устройстве (GPU arch sm_13), будут ли значения другими?

1 ответ

Локализуйте число с плавающей точкой и укажите количество десятичных знаков в iOS

У меня есть число с плавающей точкой, которое я хотел бы отобразить с точностью до одного знака после запятой. Например. 104.8135674 ... будет отображаться к...

1 ответ

Силовая точка, а не запятая для плавающей точки в Qt

1 ответ

Представляемый результат floor () и ceil ()

1 ответ

Представляемый результат floor () и ceil ()

1 ответ

9-битные представления с плавающей запятой с использованием формата A и B с плавающей запятой IEEE