Suchergebnisse für Anfrage "floating-point"
Wie überprüfe ich, ob ein String in Python schwebend sein könnte? [Duplikat]
Diese Frage hat hier bereits eine Antwort: Überprüfen, ob ein String in Python in Float konvertiert werden kann [/questions/736043/checking-if-a-string-can-be-converted-to-float-in-python] 13 AntwortenGibt es eine Funktion wiestr.isnumeric aber ...
Konvertieren von Gleitkommazahlen nach IEEE 754 mithilfe von Assembly
Können Sie mir bitte helfen, Fließkommazahlen mithilfe von Assembly in IEEE 754 umzuwandeln? Ich habe diese Zahl -1.75 und ich weiß, dass es äqula zu -1.11000000000000000000000 E + 0 auf IEEE754 ist, aber ich weiß nicht, wie man das Konvertieren ...
Python: Konvertiert einen String (in wissenschaftlicher Notation) in Float
Ich versuche, eine große CSV-Datei mit Text und Zahlen zu importieren, indem ich genfromtxt in numpy verwende. Ich interessiere mich nur für zwei Spalten. Ich habe den größten Teil des Imports mit aussortiert: def importfile(root): data = ...
Warum wird diese Formel in der Literatur zur tabellenbasierten Sin-Approximation immer verwendet, wenn eine andere Formel sinnvoller zu sein scheint?
Die Literatur zur Berechnung der Elementarfunktionsin mit Tabellen bezieht sich auf die Formel: sin(x) = sin(Cn) * cos(h) + cos(Cn) * sin(h)wox = Cn + h, Cn ist eine Konstante für diesin(Cn) undcos(Cn) wurden vorberechnet und sind in einer ...
Können Sie Gleitkommawerte genau mit Null vergleichen?
Ich weiß, dass wir mit == nicht zwei Gleitkommawerte vergleichen können. Wir können nur vergleichen, dass sie innerhalb eines bestimmten Intervalls voneinander liegen. ich weiß if(val == 0.512)ist falsch aufgrund von Fehlern, die ...
Variadic-Funktion (va_arg) funktioniert nicht mit float, printf hingegen nicht? Was ist der Unterschied?
Ich hatte gerade eine ähnliche Situation wie in dieser Frage aus zwei Jahren: Variadic-Funktion (va_arg) funktioniert nicht mit float? [https://stackoverflow.com/questions/11270588/variadic-function-va-arg-doesnt-work-with-float] Es wird ...
Best Practice für den Float-Vergleich in Matlab
Offensichtlich ist der Float-Vergleich immer schwierig. Ich habe eine Menge Assert-Checks in meinem (wissenschaftlichen) Code, daher muss ich sehr oft prüfen, ob die Summen gleich eins sind, und ähnliche Probleme. Gibt es eine schnelle und ...
Was ist der Unterschied zwischen Float und Double?
Ich habe über den Unterschied zwischen doppelter und einfacher Präzision gelesen. In den meisten Fällenfloat unddouble austauschbar zu sein scheinen, d. h. die Verwendung des einen oder anderen scheint die Ergebnisse nicht zu beeinflussen. Ist ...
Warum hängt die Geschwindigkeit dieses SOR-Lösers von der Eingabe ab?
Bezogen auf meineandere Frage [https://stackoverflow.com/questions/2388196/how-to-speed-up-my-sparse-matrix-solver] Ich habe jetzt den Solver für dünne Matrizen so geändert, dass er die SOR-Methode (Sukzessive Over-Relaxation) verwendet. Der Code ...
"F" nach number / float in Objective-C / C
Ich kann dies in den Apple-Dokumenten nicht finden. Was bedeutet das "f" nach den Zahlen hier? Kommt das von C oder Objective-C? Gibt es einen Unterschied, wenn Sie dies nicht zu einer konstanten Zahl hinzufügen? CGRect frame = CGRectMake(0.0f, ...