Suchergebnisse für Anfrage "floating-point"
Wie konvertiere ich ein float in ein int in Objective C?
Total Newbie Frage, aber das macht mich verrückt! Ich versuche das: myInt = [myFloat integerValue]; Aber ich bekomme eine Fehlermeldung, die besagt, dass im Wesentlichen integerValue bei Floats nicht funktioniert. Wie mache ich es
Dezimalstellenprobleme mit Gleitkommazahlen und Dezimalstellen.Decimal
Ich scheine viel Präzision mit Schwimmern zu verlieren. Zum Beispiel muss ich eine Matrix lösen: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0Dies ist der Code, mit dem ich die Matrix aus einer Textdatei importiere: f = ...
Wie ist fma () implementiert
Laut demDokumentatio [http://sourceware.org/newlib/libm.html#fma], da ist einfma() Funktion inmath.h. Das ist sehr schön und ich weiß, wie die FMA funktioniert und wofür sie verwendet werden soll. Ich bin mir jedoch nicht so sicher, wie dies in ...
Python: int (3.0) = 2
Beobachten Sie das folgende Python-Programm def goo(y,x): y = float(y) x = float(x) yup = (y - x - 1) / x yup = str(yup) yup = yup.split(".") decimal = "." + yup[1] decimal = float(decimal) output = decimal / (1/x) print output print ...
Java: Double Machine epsilon ist nicht das kleinste x, so dass 1 + x! = 1?
Ich versuche das @ zu bestimmdouble machine epsilon [http://en.wikipedia.org/wiki/Machine_epsilon] in Java unter Verwendung der Definition, dass es das kleinste darstellbare @ idouble Wertx so dass1.0 + x != 1.0, genau wie in C / C ++. Laut ...
Endlosschleife heisenbug: es wird beendet, wenn ich einen Ausdruck hinzufüge
Dies ist mein Quellcode: #include <iostream> #include <cmath> using namespace std; double up = 19.0 + (61.0/125.0); double down = -32.0 - (2.0/3.0); double rectangle = (up - down) * 8.0; double f(double x) { return (pow(x, 4.0)/500.0) - (pow(x, ...
Bearbeiten und Vergleichen von Gleitkommawerten in Java
In Java wird die Gleitkomma-Arithmetik nicht genau dargestellt. Zum Beispiel dieser Java-Code: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); } Prints "c ...
Python Rundungsproblem
>>> num = 4.123456 >>> round(num, 3) # expecting 4.123 4.1230000000000002 Ich erwarte 4.123 als Ergebnis, irre ich mich?
C ++ Gleitkommapräzision [duplizieren]
Mögliches Duplizieren: Floating Point Ungenauigkeit Beispiele [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...
Convert float to string mit Genauigkeit und Anzahl der angegebenen Dezimalstellen?
Wie konvertieren Sie einen Gleitkommawert in C ++ in einen String, während Sie die Genauigkeit und Anzahl der Dezimalstellen angeben? Zum Beispiel:3.14159265359 -> "3.14"