Результаты поиска по запросу "floating-point"
Неожиданное поведение данных двойного примитивного типа
Я хочу понять, как работает Javadouble Тип будет хранить свое значение в памяти в Java. Когда я запускаю следующий код, я получаю неожиданный вывод: public static void main(String[] args) { float a = 1.5f; float b= 0.5f; double c= 1.5; double d ...
Небольшая ошибка в моем коротком C-коде. Почему?
Я не могу понять, почему это работает для 90% входов, но не для других. Он предназначен для того, чтобы рассказать вам, сколько монет вы получите в обмен. Большинство тестовых сумм работают нормально, но если вы введете 4,20 (или 4,20 долл. США), ...
Регулярные выражения соответствуют числу с плавающей точкой, но не целому числу
У меня есть проблема, чтобы определить регулярное выражение, которое соответствует числам с плавающей запятой, но не идентифицировать целые числа. У меня есть следующее регулярное выражение, которое соответствует ...
MATLAB: использование функции find для получения индексов определенного значения в массиве
Я сделал массив значений типа double, и когда я хочу использовать команду find для поиска индексов определенных значений в массиве, это приводит к пустой матрице, а это не то, что мне нужно. Я предполагаю, что проблема заключается в точности ...
9-битные представления с плавающей запятой с использованием формата A и B IEEE с плавающей запятой
У меня возникли проблемы с проблемой, с которой я столкнулся при работе с плавающей точкой. Мне трудно перейти от представления с плавающей запятой к десятичным значениям, а также из формата A представления в формат ...
c / c ++ нотация двойных значений с плавающей точкой
Какая запись для значений с плавающей запятой двойной точности в C / C ++? 0,5представляет значение типа double или float? Я почти уверен, что 2.0f анализируется как float, а 2.0 как double, но как насчет ...
Python: Найти индекс минимального элемента в списке чисел [дубликаты]
На этот вопрос уже есть ответ здесь: Получение индекса возвращенного элемента max или min с использованием max () / min () в списке [/questions/2474015/getting-the-index-of-the-returned-max-or-min-item-using-max-min-on-a-list] 21 ответКак я ...
Есть ли сценарий, где можно использовать функцию FMA в libc?
Я сталкиваюсьэта страница [http://sourceware.org/newlib/libm.html#fma]и найти там странныйумножение с плавающей запятой функция -fma а такжеfmaf, Это говорит о том, что результат примерно такой: (x * y) + z #fma(x,y,z)И значениебесконечная ...
Почему GDB оценивает арифметику с плавающей точкой иначе, чем C ++?
Я столкнулся с чем-то немного запутанным, пытаясь решить арифметическую задачу с плавающей точкой. Сначала код. Я привел суть моей проблемы в этот пример: #include <iostream> #include <iomanip> using namespace std; typedef union {long long ll; ...
Странное поведение с плавающей точкой и преобразованием строк
Я набрал это в оболочку Python: >>> 0.1*0.1 0.010000000000000002Я ожидал, что 0,1 * 0,1 не 0,01, потому что я знаю, что 0,1 в базе 10 является периодическим в базе 2. >>> len(str(0.1*0.1)) 4Я ожидал получить 20, как я видел 20 символов ...