Результаты поиска по запросу "floating-point"
Принуждение с плавающей точкой быть детерминированным в .NET?
Я много читал о детерминизме с плавающей точкой в .NET, то есть о том, что один и тот же код с одинаковыми входными данными будет давать одинаковые результаты на разных машинах. Поскольку в .NET отсутствуют такие параметры, как fpstrict в Java и ...
C ++ Как избежать арифметической ошибки с плавающей точкой
Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере: for(float value = -2.0; value <= 2.0; value += 0.2) std::cout << value << std::endl;Вот ...
Как мне обработать различия в порядке байтов при чтении / записи типов с плавающей точкой в C?
Я разрабатываю формат файла для своего приложения, и, очевидно, мне бы хотелось, чтобы оно работало как с порядковыми, так и с порядковыми номерами. Я уже нашел рабочие решения для управления целочисленными типами с использованиемhtonl ...
Самый Pythonic способ напечатать * самое большее * некоторое количество знаков после запятой [дубликата]
На этот вопрос уже есть ответ здесь: Форматирование поплавков в Python без лишних нулей [/questions/2440692/formatting-floats-in-python-without-superfluous-zeros] 15 ответовЯ хочу отформатировать список чисел с плавающей точкой не более, ...
Ошибка с использованием (int) и (double) вместе, чтобы обрезать десятичные дроби
Когда я использую (int) с (double) несколько раз, это не работает правильно. Посмотрите на пример кода PHP: Мне нужно оставить 2 десятичных знака и удалить другие ... Я знаю number_format (); функция, но я не могу ее использовать. Потому что ...
Ошибка типа: требуется плавающее число
Невозможно опубликовать изображение, поэтому:a[i]={(-1)^(i+1)*sin(x)*ln(x)}/{i^2*(i+1)!} Задание: Нужно найти a1, a2, ..., an. п естественно, и это дано. Вот как я пытался это сделать: import math a=[] k=0 p=0 def factorial(n): f=1 for i in ...
Как преобразовать сэмплы pcm в массив байтов в числа с плавающей запятой в диапазоне от -1,0 до 1,0 и обратно?
Алгоритм пересэмплирования, который я использую, ожидаетпоплавокмассив, содержащий входные выборки в диапазоне-1,0 до 1,0, Аудио данные16 битPCM с частотой дискретизации22кГц. Я хочу уменьшить звук от 22 кГц до 8 кГц, как представить сэмплы в ...
Использование iPhone / Objective C CGFloats: 0,1 нормально или должно быть 0,1f?
При использовании метода iPhone Objective C, который принимаетCGFloatнапример,[UIColor colorWithRed:green:blue:]Важно ли добавлять f к постоянным аргументам, чтобы явно указывать их как числа с плавающей точкой, например, я должен всегда печатать ...
Денормализованные числа - IEEE 754 с плавающей точкой
Поэтому я пытаюсь узнать больше о денормализованных числах, как это определено в стандарте IEEE 754 для чисел с плавающей точкой. Благодаря результатам поиска Google я уже прочитал несколько статей, а также просмотрел несколько сообщений ...
C динамически печатает double, без потери точности и без конечных нулей
Я новичок в C и учусь вне книги / в интернете. Я пытаюсь написать функцию, которую я могу передать любомуdouble чтобы и вернутьint использоваться вprintf("%.*lf" ... утверждение такое, чтоint возвращаемое значение не будет ни уменьшать точность, ...