Suchergebnisse für Anfrage "floating-point"
Verwenden von iPhone / Objective C CGFloats: Ist 0.1 in Ordnung oder sollte es 0.1f sein?
Bei Verwendung einer iPhone Objective C-Methode, die akzeptiert
Vektorierbare Implementierung der komplementären Fehlerfunktion erfcf ()
Die komplementäre Fehlerfunktion, erfc, ist eine Sonderfunktion, die eng mit der Standardnormalverteilung verwandt ist. Es wird häufig in der Statistik und in den Naturwissenschaften verwendet (z. B. bei Diffusionsproblemen), wo die "Schwänze" ...
Wie kann man steuern, ob C math SSE2 verwendet?
Mit MSVC trat ich in den Aufbau der transzendentalen mathematischen Funktionen der C-Bibliothek im fp: strict-Modus ein. Sie scheinen alle dem gleichen Muste...
Was ist das Verhalten beim Konvertieren eines negativen Gleitkommawerts in ein vorzeichenloses int?
Was passiert, wenn ein negativer Gleitkommawert in einen Wert ohne Vorzeichen umgewandelt wird? Standardzitate werden gebeten. Das Problem, vor dem ich stehe, ist die Konvertierung in Werte von vorzeichenlosen Integraltypen aus ...
Wie wird die Unendlichkeit in einem C-Doppel dargestellt?
Ich habe aus dem Buch gelerntComputersysteme: Die Perspektive eines Programmierers dass der IEEE-Standard erfordert, dass die Gleitkommazahl mit doppelter Genauigkeit im folgenden 64-Bit-Binärformat dargestellt wird: s: 1 Bit für Vorzeichenexp: ...
Warum sollte PHP das Ergebnis von (int) ((0.1 + 0.7) * 10) in 7 und nicht in 8 konvertieren?
Warum sollte PHP eigentlich das Ergebnis von konvertieren?
Kompilieren von * .vhdl in eine Bibliothek mit Altera Quartus II
Ich versuche, 'Gleitkomma- und Festkommapaket' als Teil meines Filterentwurfs in VHDL zu verwenden. Ich benutze Altera Quartus II als Entwicklungsumg...
integer Division, um das Ergebnis zu verschieben [duplizieren]
Diese Frage hat hier bereits eine Antwort: Fahrenheit in Celsius Umrechnung [/questions/13282301/fahrenheit-to-celsius-conversion] 3 answersIch muss zwei ganze Zahlen teilen und erhalte als Ergebnis einen Gleitkomma My Code: Float ws; int i = ...
Gleitkomma-Gleichheit testen
Gibt es eine Funktion zum Testen der Gleitkomma-Gleichheit in Python? Etwas wie def approx_equal(a, b, tol): return abs(a - b) < tolMein Anwendungsfall ähnelt der Definition von @ in der C ++ - Testbibliothek von Google, ...
C ++ Gleitkommapräzision [duplizieren]
Mögliches Duplizieren: Floating Point Ungenauigkeit Beispiele [https://stackoverflow.com/questions/2100490/floating-point-inaccuracy-examples] double a = 0.3; std::cout.precision(20); std::cout << a << ...