Suchergebnisse für Anfrage "floating-point"
Was bedeutet "0" als Präfix in einem Gleitkomma-Literal?
Wenn "0" (Null) als Präfix in einem Ganzzahlliteral verwendet wird, ändert sich dessen Basis in oktal. Deshalb System.out.println(010);wird drucken8. Aber mit "F" als Suffix System.out.println(010F); wird es schweben lassen und die Oktalbasis ...
Konvertieren eines Dezimalwerts in einen 32-Bit-Fließkomma-Hexadezimalwert
Für ein einfaches Dienstprogramm, an dem ich arbeite, benötige ich ein Skript, das einen bestimmten Dezimalwert in einen 32-Bit-Fließkomma-Hexadezimalwert konvertiert. Ich weiß zum Beispiel, dass 1 3F800000 und 100 42C80000 ist, aber ich weiß ...
Ist es immer sicher, eine Gleitkommazahl zu negieren
Erwägen double f = foo(); double g = -f;wofoo() kann alles zurückgeben, was @ zugewiesen wurf. istdouble g = -f; sicher in C und C ++? Für IEEE 754-Typen ist dies offensichtlich, aber C und C ++ beschränken die Gleitkommaimplementierung ...
Wie ändere ich eine float64-Nummer richtig in uint64?
package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) } Die Ausgabe wird sein: 6161047830682206208 Es sieht so aus, wennfloat64 ändernuint64, der Bruch wird verworfen.
Warum erhalte ich in Float-Ausdrücken wie 1/2 Null? [Duplikat
Diese Frage hat hier bereits eine Antwort: Trouble mit float auf C [duplizieren] [/questions/26643536/trouble-with-float-on-c] 1 AntwortDividing 1 / n liefert immer 0.0 [duplicate] [/questions/13331054/dividing-1-n-always-returns-0-0] ...
Faustregel zum Testen der Gleichheit von zwei Doppel in C #?
Nehmen wir an, ich habe einen Code, der Gleitkomma-Arithmetik ausführt und die Werte doppelt speichert. Wie prüfe ich die Gleichheit mit angemessener Sicherheit, da einige Werte nicht perfekt binär dargestellt werden können? Wie bestimme ich, ...
Warum ist die in diesem C-Code verwendete IEEE-754-Exponentenvorspannung 126.94269504 anstelle von 127?
Die folgende C-Funktion stammt von fastapprox [https://code.google.com/p/fastapprox/] project. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f; return y - ...
Status von __STDC_IEC_559__ mit modernen C-Compilern
C99 hat ein Makro hinzugefügt__STDC_IEC_559__ Mit dieser Funktion können Sie testen, ob ein Compiler und eine Standardbibliothek dem Standard ISO / IEC / IEEE 60559 (oder IEEE 754) entsprechen. Nach den Antworten auf diese ...
Wie konvertiere ich ein hexadezimales float in ein float in C / C ++ mit der _mm_extract_ps SSE GCC instrinc Funktion
Ich schreibe einen SSE-Code für die 2D-Faltung, aber die SSE-Dokumentation ist sehr spärlich. Ich berechne das Skalarprodukt mit _mm_dp_ps und verwende _mm_extract_ps, um das Skalarprodukt-Ergebnis zu erhalten, aber _mm_extract_ps gibt ein Hex ...
Swift - Wie entferne ich eine Dezimalstelle aus einem Gleitkomma, wenn die Dezimalstelle gleich 0 ist?
Ich zeige eine Entfernung mit einer Dezimalstelle an und möchte diese Dezimalstelle entfernen, falls sie gleich 0 ist (z. B. 1200,0 km). Wie kann ich das schnell tun? Ich zeige diese Nummer wie folgt an: let distanceFloat: Float = ...