Результаты поиска по запросу "floating-point"
Приведение результата к плавающей точке в методе, возвращающем результат изменений с плавающей точкой
Почему этот код печатаетFalse в .NET 4? Кажется, неожиданное поведение вызвано явным приведением. Я хотел бы получить ответ за пределами "с плавающей точкой неточно" или "не делай этого". float a(float x, float y) { return ( x * y ); } float ...
Работа с числами и числами
Я создал банкоматную программу, которая хранит деньги на счету человека. Когда человек снимает деньги со счета, он вычитает их со счета вместе с доплатой в размере .50. У меня проблема в работе с целыми числами и числами с плавающей запятой. Я ...
Странное поведение при приведении float к int в C #
У меня есть следующий простой код: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1 и speed2 должны иметь одинаковое значение, но на самом деле у меня есть: speed1 = 61 speed2 = 62Я знаю, что, возможно, мне ...
Ошибка BigDecimal
В Java я определил k какdouble k=0.0; Я беру данные из базы данных и добавляю то же самое, используяwhile петли, while(rst.next()) { k = k + Double.parseDouble(rst.getString(5)); }NOTE: In database, I have values as 125.23, 458.45, 665.99 (all ...
Android / SQLite: сохранение / получение данных типа REAL
У меня есть SQLDB с таблицей поля REAL. В моем макете я установил размер поля, чтобы разрешить только 8 + 2 цифры. В моем объекте я использовал тип данных поля как «float». qs[0] = "CREATE TABLE " + RELATION_TABLE_NAME + "(id TEXT PRIMARY KEY, ...
Как проверить, что используется представление с плавающей запятой IEEE 754 с одинарной точностью (32 бита)?
Я хочу проверить следующие вещи на моей целевой плате: Реализуется ли 'float' с помощью переменной с плавающей точкой одинарной (32-битной) точности IEEE 754?Реализуется ли double с помощью переменной с плавающей точкой двойной точности ...
Как проверить зависимости поплавков
Я хочу определить (в c ++), является ли одно число с плавающей запятой мультипликативным обратным к другому числу с плавающей запятой. Проблема в том, что я должен использовать третью переменную, чтобы сделать это. Например, этот код: float ...
Является ли это действительным сравнением с плавающей запятой, которое учитывает определенное количество десятичных знаков?
Я пишу метод расширения для сравнения двух чисел с использованием заданного количества десятичных знаков (значащих цифр), чтобы определить, равны ли они вместо допуска или разницы в процентах. Просматривая другие вопросы, касающиеся сравнения с ...
Почему изменение от 0,1f до 0 замедляет производительность в 10 раз?
Почему этот бит кода, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, ...
Денормализованная плавающая точка в Objective-C?
Какова актуальность вопроса / ответа переполнения стекаПочему изменение от 0,1f до 0 замедляет производительность в 10 раз? [https://stackoverflow.com/a/9314926/8047]для Objective-C? Если есть какое-либо отношение, как это должно изменить мои ...