Suchergebnisse für Anfrage "floating-point"
Wie man das Vorzeichen von zwei Gleitkommawerten effizient vergleicht, während negative Nullen verarbeitet werden
Gegeben zwei Gleitkommazahlen, ich suche eineffizien Weg zu überprüfen, ob sie das gleiche Zeichen haben,wenn einer der beiden Werte Null ist (+0,0 oder -0,0), sollte davon ausgegangen werden, dass sie dasselbe Vorzeichen haben. Zum ...
Floating Point Arithmetic - Modulo-Operator bei doppeltem Typ
So versuche ich herauszufinden, warum der Modulo-Operator einen so großen ungewöhnlichen Wert zurückgibt. Wenn ich den Code habe: double result = 1.0d % 0.1d; it wird ein Ergebnis von @ geb0.09999999999999995. Ich würde einen Wert von ...
Convert ieee 754 float to hex mit c - printf
Idealerweise würde der folgende Code einen Gleitkommawert in der IEEE 754-Darstellung annehmen und ihn in hexadezimales @ konvertiere void convert() //gets the float input from user and turns it into hexadecimal { float f; printf("Enter float: ...
Ist es richtig anzunehmen, dass Gleitkomma-Samples in einer WAV- oder AIFF-Datei normalisiert werden?
Say Ich habe ein Programm, das eine .WAV- oder .AIFF-Datei liest, und das Audio der Datei wird als Fließkomma-Sample-Werte codiert. Stimmt es, dass mein Programm annimmt, dass eine wohlgeformte (Gleitkomma-basierte) .WAV- oder .AIFF-Datei nur ...
Wie viele doppelte Zahlen gibt es zwischen 0.0 und 1.0?
Das ist etwas, woran ich seit Jahren denke, aber ich habe mir nie die Zeit genommen, vorher zu fragen. Viele (Pseudo-) Zufallszahlengeneratoren erzeugen eine Zufallszahl zwischen 0.0 und 1.0. Mathematisch gibt es unendlich viele Zahlen in ...
Converting float to char *
Wie kann ich ein @ konvertierefloat value tochar* imC Sprache
Warum sind einige float <Integer-Vergleiche viermal langsamer als andere?
Wenn Sie Gleitkommazahlen mit ganzen Zahlen vergleichen, dauert die Auswertung einiger Wertepaare viel länger als bei anderen Werten ähnlicher Größenordnung. Beispielsweise >>> import timeit >>> timeit.timeit("562949953420000.7 < ...
Bestimmen Sie die Genauigkeit und den Maßstab einer bestimmten Zahl in Python
Ich habe eine Variable in Python, die eine Gleitkommazahl enthält (z. B.num = 24654.123), und ich möchte die Genauigkeit und die Skalierungswerte der Zahl (im Oracle-Sinne) bestimmen, daher sollte 123.45678 (8,5), 12.76 (4,2) usw. ergeben. Ich ...
Unerwartete Ergebnisse für Gleitkommazahlen entsprechen
ei @Frage geht es nicht darum, warum0.1 + 0.9 ist nicht gleich1.0. Es geht um unterschiedliches Verhalten eines Gleichen. Kann jemand erklären, warum die folgenden Beispiele anders funktionieren. float q = 0.1f; float w = 0.9f; float summ = q + ...
integer Division, um das Ergebnis zu verschieben [duplizieren]
Diese Frage hat hier bereits eine Antwort: Fahrenheit in Celsius Umrechnung [/questions/13282301/fahrenheit-to-celsius-conversion] 3 answersIch muss zwei ganze Zahlen teilen und erhalte als Ergebnis einen Gleitkomma My Code: Float ws; int i = ...