Suchergebnisse für Anfrage "floating-point"
Wie trenne ich float in einen ganzzahligen und einen gebrochenen Teil?
Ich bin bereit, präzise Operationen auszuführen, und zu diesem Zweck brauche ich eine Möglichkeit, eine Gleitkommazahl in eine Ganzzahl und einen Bruchteil zu unterteilen. Gibt es dafür einen Weg?
Konnte keine Überladung für '*' finden, die das angegebene Argument akzeptiert
Ich habe eine konvertiertString zu einemInt von mittoInt(). Ich habe dann versucht, es mit 0,01 zu multiplizieren, aber ich erhalte einen Fehler, der besagtCould not find an overload for '*' that accepts the supplied argument. Hier ist mein ...
Konvertieren Sie String, um in Apples Swift zu schweben
Ich versuche, Zahlen aus einem UITextField, von dem ich annehme, dass es sich tatsächlich um Zeichenfolgen handelt, in float umzuwandeln, damit ich sie multiplizieren kann. ich habe zweiUITextfields die wie folgt deklariert sind: @IBOutlet var ...
Schnellster Algorithmus zum Identifizieren des kleinsten und größten x, die die doppelte Genauigkeitsgleichung x + a == b erfüllen
Im Rahmen der statischen Analyse interessiere ich mich für die Ermittlung der Werte vonx im then-Zweig der folgenden Bedingung: double x; x = …; if (x + a == b) { …a undb Es kann angenommen werden, dass es sich um Konstanten mit doppelter ...
Die Formatierung erfolgt in Python ohne überflüssige Nullen
Wie formatiere ich einen Gleitkomma so, dass er keine Nullen enthält? Mit anderen Worten, ich möchte, dass die resultierende Zeichenfolge so kurz wie möglich ist. Mögen: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 -> "3.14"
Warum verwendet Swift die Basis 2 für den Exponenten der hexadezimalen Gleitkommawerte?
GemäßDie schnelle Programmiersprache : Zum Beispiel steht 0xFp2 für 15 ⨉ 2 ^ 2, was 60 ergibt. Ebenso steht 0xFp-2 für 15 ⨉ 2 ^ (- 2), was 3,75 ergibt. Warum wird 2 anstelle von 16 als Basis für den Exponenten verwendet? Ich hätte es ...
Hinzufügen von zwei Gleitkommazahlen
Ich möchte die Summe zweier IEEE 754 binary64-Zahlen aufgerundet berechnen. Zu diesem Zweck habe ich das folgende C99-Programm geschrieben: #include <stdio.h> #include <fenv.h> #pragma STDC FENV_ACCESS ON int main(int c, char *v[]){ ...
Was ist ein guter Weg, um eine große Anzahl kleiner Schwimmer zusammenzufügen?
Angenommen, Sie haben 100000000 32-Bit-Gleitkommawerte in einem Array, und jeder dieser Gleitkommawerte hat einen Wert zwischen 0,0 und 1,0. Wenn Sie versucht haben, sie alle so zusammenzufassen result = 0.0; for (i = 0; i < 100000000; i++) { ...
Wie runde ich eine Zahl in JavaScript?
Während der Arbeit an einem Projekt bin ich auf ein JS-Skript gestoßen, das von einem ehemaligen Mitarbeiter erstellt wurde und im Grunde genommen einen Bericht in Form von erstellt Name : Value Name2 : Value2usw. Das Problem ist, dass die ...
Warum zeigt Python "0.2 + 0.1" als "0.30000000000000004" an? [Duplikat]
Diese Frage hat hier bereits eine Antwort: Kann jemand das erklären: 0.2 + 0.1 = 0.30000000000000004? [Duplikat] [/questions/7545015/can-someone-explain-this-0-2-0-1-0-30000000000000004] 2 AntwortenIch habe den folgenden Code zum Generieren ...