Результаты поиска по запросу "floating-point"
Почему Microsoft не хочет исправлять неправильные реализации Equals и GetHashCode с NaN? [закрыто]
В .NET Framework, реализация (override) изEquals(object) а такжеGetHashCode() для типов с плавающей точкой (System.Double а такжеSystem.Single) является неправильно, Цитировать изMSDNGetHashCode(object) ...
Как увеличить число на 0,01 в JavaScript, используя цикл?
проблемаЯ пытался составить список высот в консоли по метрам, начиная с 1,20 м и заканчивая 2,50 м. Я использовал этот код: var heights = []; for ( var i=1.20, l=2.5; i<l; i+=0.01 ){ heights.push(i); } heights = heights.join('\n');Если ...
Переменные с плавающей запятой присваивают значение из строки выше
У меня есть приложение для iOS, которое делает вещи, которые мне не совсем понятны. У меня есть несколько переменных с плавающей точкой, определенных в моем ...
Расширенная библиотека с плавающей запятой точности C / C ++
Я ищу расширенную библиотеку с плавающей запятой со следующими функциями: fixed data type size (i.e. the extended precision float takes a fixed amount of m...
Стандарт IEEE-754 на графическом процессоре NVIDIA (sm_13)
Если я выполню операцию с плавающей запятой (одинарной точности) на хосте и устройстве (GPU arch sm_13), будут ли значения другими?
Локализуйте число с плавающей точкой и укажите количество десятичных знаков в iOS
У меня есть число с плавающей точкой, которое я хотел бы отобразить с точностью до одного знака после запятой. Например. 104.8135674 ... будет отображаться к...