Suchergebnisse für Anfrage "floating-point"
Convert-Liste oder Numpy-Array eines einzelnen Elements, um es in Python zu verschieben
Ich habe eine Funktion, die entweder eine Liste oder ein Numpy-Array akzeptieren kann. In beiden Fällen hat die Liste / das Array (immer) ein einzelnes Element. Ich muss nur einen Schwimmer zurückgeben. o könnte ich beispielsweise ...
Umwandeln von Int in Float verliert die Präzision für große Zahlen in Swift
XCode 6.3.1 Swift 1.2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intmax=\(intmax) value=\(value) ...
Float32 bis Float16
Kann mir jemand erklären, wie ich einen 32-Bit-Gleitkommawert in einen 16-Bit-Gleitkommawert konvertiere? (s = Vorzeichen e = Exponent und m = Mantisse) Wenn das 32-Bit-Float 1s7e24m ist Und 16-Bit-Float ist 1s5e10m Dann ist es so einfach wie ...
Float-Werte in Java darstellen
Sehen Sie sich die folgenden drei Codezeilen an. float f = 1; float g = 1.1; float h = 1.1f; Zweite Zeile hat Kompilierungsfehler, während die anderen Zeilen keine Kompilierungsfehler haben. Die erste Zeile funktioniert ohne Suffix f und die ...
Input number validation - Beschränken Sie die Eingabe nur von Zahlen oder Ziffern, int & float both
So schränken Sie das Eingabefeld ein, um nur Zahlen / Ziffern int einzugeben und beide zu verschieben. Manchmal müssen wir sowohl Integer- als auch Float-Werte für Felder wie Betrag zulassen, daher ist in diesem Fall die Validierung erforderlich. ...
Ruby BigDecimal Sanity Check (Gleitkomma-Newb)
Ist mein Verständnis richtig, dass mit RubyBigDecimal -Typen (auch mit unterschiedlicher Genauigkeit und Skalenlänge) sollten genau berechnet werden, oder sollte ich mit Gleitkomma-Spielereien rechnen? Alle meine Werte in einer Rails-Anwendung ...
Payne Hanek Algorithmus Implementierung in C
Ich habe Mühe zu verstehen, wie der von Payne und Hanek veröffentlichte Entfernungsreduzierungsalgorithmus (Entfernungsreduzierung für trigonometrische Funktionen) implementiert werden kann. Ich habe gesehen, dass es diese Bibliothek ...
Ist Gleitkommapräzision veränderbar oder unveränderlich?
Ich erhalte immer wieder gemischte Antworten, ob Gleitkommazahlen (d. H.float, double, oderlong double) einen und nur einen Genauigkeitswert haben oder einen Genauigkeitswert haben, der variieren kann. Ein Thema namensfloat vs. double ...
SIMD minmag und maxmag
Ich möchte SIMD implementierenminmag und maxmag Funktionen [https://www.khronos.org/registry/cl/sdk/1.1/docs/man/xhtml/mag.html]. Soweit ich weiß, sind diese Funktionen minmag(a,b) = |a|<|b| ? a : b maxmag(a,b) = |a|>|b| ? a : bIch möchte diese ...
floating point equality in Python und allgemein
Ich habe einen Code, der sich unterschiedlich verhält, je nachdem, ob ich ein Wörterbuch durchforste, um Umrechnungsfaktoren abzurufen, oder ob ich sie direkt verwende. Der folgende Code wird gedruckt1.0 == 1.0 -> False Aber wenn Sie @ ...