Результаты поиска по запросу "floating-point"
взял бы точное представление 0,2 и сделать его 0,00001. Не менее серьезные проблемы могут возникнуть, если эпсилон будет внутри функции округления.
ентация длякруглый() [http://docs.python.org/lib/built-in-funcs.html]функция утверждает, что вы передаете ей число, а позиции после десятичной дроби округляют. Таким образом этодолжен сделай это: n = 5.59 round(n, 1) # 5.6Но на самом деле, ...
Python JSON сериализует десятичный объект
у меня естьDecimal('3.9') как часть объекта, и хотите закодировать это в строку JSON, которая должна выглядеть{'x': 3.9}, Меня не волнует точность на стороне клиента, поэтому с плавающей точкой все в порядке. Есть ли хороший способ сериализовать ...
Округление с плавающей точкой. Он пытается сказать 2.01, но не может выразить его в точности как число с плавающей запятой, поэтому он делает все возможное.
у так? >>> max(2, 2.01) 2.0099999999999998
недостаточно значащих цифр для представления вашего номера. Пытаться
я есть следующий код, я хочу назначить десятичное значение для плавания без потери точности. String s1= "525.880005"; Float f = new Float(s1); System.out.println(f);Выход:5,88 Ожидаемый результат:525.880005
Но если вы допустите val = 12,5 и вычтете 0,125 в цикле, вы можете достичь нуля.
ющая программа: #include <stdio.h> int main() { double val = 1.0; int i; for (i = 0; i < 10; i++) { val -= 0.2; printf("%g %s\n", val, (val == 0.0 ? "zero" : "non-zero")); } return 0; }Производит этот вывод: 0.8 non-zero 0.6 non-zero 0.4 ...
Это нарушает строгие правила псевдонимов и имеет UB в целом. А именно, это, вероятно, не будет работать на некоторых версиях GCC.
ы пишешьNaN литерал с плавающей точкой в C?
не компилируется на gcc
могу проверить, еслиfloat переменная содержит целочисленное значение? До сих пор я использовал: float f = 4.5886; if (f-(int)f == 0) printf("yes\n"); else printf("no\n");Но мне интересно, есть ли лучшее решение, или у этого есть какие-либо (или ...
потому что тип совместим только с IEEE 754. Только 99,99% была ли семантика IEEE точно соблюдена. Следовательно, будут ложные негативы, но поскольку то, что на самом деле хотел знать спрашивающий, формально не определено, выхода из этого нет.
ел бы задать вопрос, который следуетэтот [https://stackoverflow.com/questions/752309/ensuring-c-doubles-are-64-bits]на который довольно хорошо отвечает проверка определения, использует ли компилятор стандарт. Однако это работает только для C. ...
ну, я стараюсь не использовать numpy или любую другую "библиотеку", которая не включена в то время как я установил IDE
hh=[[82.5], [168.5]] N=1./5 ll=N*hh делаю не так? Я получил ошибку: "не может умножить последовательность на не-int типа 'float'" Я пытаюсь добавить float (), но это не решает мою проблему; Мне нужно умножить каждый элемент в массиве ... ...
Преобразование float в int (float2int) с использованием только побитовой манипуляции
Мне интересно, может ли кто-нибудь направить меня в правильном направлении с проблемой, над которой я работаю. Я пытаюсь сделать то, что делает следующая функция C, используя только сборку ARM и битовые манипуляции: int float2int(float x) { ...