Suchergebnisse für Anfrage "floating-point"

12 die antwort

Wie rundet man eine Gleitkommazahl in Perl?

Wie kann ich eine Dezimalzahl (Gleitkomma) auf die nächste Ganzzahl runden?z.B.

6 die antwort

iOS Objective-C Wie erhalte ich einen nach dem Komma gerundeten Gleitkommawert?

Ich habe ein

2 die antwort

Berechnung einer richtig gerundeten / fast richtig gerundeten Gleitkomma-Kubikwurzel

Nehmen wir an, dass die Standardbibliotheksfunktionen wie in richtig gerundet sindCRlibm stehen zur Verfügung. Wie würde man dann die korrekt gerundete Kubik...

TOP-Veröffentlichungen

3 die antwort

intBitsToFloat-Methode in Java VS C #?

Ich erhalte die falsche Zahl, wenn ich Bits in C # konvertiere.Lassen Sie uns dieses Bit verwenden

1 die antwort

Was ist der Unterschied zwischen leisem NaN und signalisierendem NaN?

Ich habe über Gleitkommazahlen gelesen und verstehe, dass NaN aus Operationen resultieren kann. aber ich kann nicht genau verstehen, was diese Konzepte sind....

2 die antwort

Kann eine Monte-Carlo-Pi-Berechnung für einen Weltrekord verwendet werden?

Ich habe diese Zufallsfunktion, um pi zu berechnenMonte-Carlo-Stil:

2 die antwort

Gibt Math.Round (double, decimal) immer konsistente Ergebnisse zurück

Natürlich sollte man niemals Gleitkommawerte vergleichen, die sich aus einer Gleichheitsberechnung ergeben, sondern immer eine kleine Toleranz verwenden, z.

8 die antwort

seltsame Ausgabe im Vergleich von float mit float-Literal

5 die antwort

Wie stelle ich die Gleitkommapräzision in Perl ein?

Gibt es eine Möglichkeit, die Gleitkommagenauigkeit eines Perl-Skripts (auf 3 Stellen) festzulegen, ohne sie für jede Variable spezifisch ändern zu müssen?Äh...

3 die antwort

pow () wird in ein ganzzahliges, unerwartetes Ergebnis umgewandelt

Ich habe einige Probleme bei der Verwendung eines Integer-Casts für das