Результаты поиска по запросу "floating-point"
Как обнаружить переполнение и потерю с плавающей запятой двойной точности?
У меня есть следующие переменные: double dblVar1; double dblVar2;Они могут иметь большие значения, но меньшеdouble Максимум. У меня есть различные арифметические действия над вышеуказанными переменными, такими как сложение, умножение и ...
Легко ли печатать поплавки в python?
У меня есть список поплавков. Если бы я простоprint это, это проявляется так: [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006]Я мог бы использоватьprint "%.2f", что потребуетfor ...
Как получить знак, мантиссу и показатель числа с плавающей запятой
У меня есть программа, которая работает на двух процессорах, один из которых не имеет поддержки с плавающей запятой. Итак, мне нужно выполнить вычисления с плавающей точкой с использованием фиксированной точки в этом процессоре. Для этой цели я ...
Как получить единичную матрицу из numpy.dot (A, A_inv)
Я готовлю матрицу случайных чисел, вычисляю ее обратную и матрицу умножаю на исходную матрицу. Это, в теории, дает единичную матрицу. Как я могу позволитьnumpy сделать это для меня? import numpy A = numpy.zeros((100,100)) E = ...
Может ли переменная использоваться в Python для определения десятичных разрядов
Я знаком с соглашением об использовании%.2f установить два десятичных знака для числа с плавающей запятой, но возможно ли каким-либо образом изменить число на переменную, чтобы пользователь мог указать количество отображаемых десятичных знаков?
Почему моя целочисленная математика с std :: pow дает неправильный ответ?
Рассмотрим следующий фрагмент кода: #include <iostream> #include <cmath> int main() { int i = 23; int j = 1; int base = 10; int k = 2; i += j * pow(base, k); std::cout << i << std::endl; }Он выводит «122» вместо «123». Это ошибка в g ++ 4.7.2 ...
реализация двойной-двойной устойчивости к режиму округления FPU
Контекст: двойная двойная арифметика«Дабл-дабл»представление чисел в виде суммы двух чисел двойной точности [http://en.wikipedia.org/wiki/Double-double_arithmetic#Double-double_arithmetic] без пересечения в значениях. Это представление использует ...
Почему мы не можем использовать '==' для сравнения двух чисел с плавающей запятой или двойных чисел [дубликата]
На этот вопрос уже есть ответ: Test для равенства с плавающей точкой. (FE_FLOATING_POINT_EQUALITY) [/questions/3832592/test-for-floating-point-equality-fe-floating-point-equality] 3 ответа Почему Double.NaN == Double.NaN возвращает ...
интервью вопрос печати числа с плавающей запятой [дубликата]
На этот вопрос уже есть ответ: плавать в неожиданное поведение [/questions/4479758/float-to-int-unexpected-behaviour] 6 ответов Каков результат следующей программы и почему? #include <stdio.h> int main() { float a = 12.5; printf("%d\n", ...
integer деление на результат с плавающей точкой [duplicate]
На этот вопрос уже есть ответ: Преобразование Фаренгейта в Цельсий [/questions/13282301/fahrenheit-to-celsius-conversion] 3 ответа Я должен разделить два целых числа и получить число с плавающей точкой в результате Мой код: Float ws; int i = ...