Suchergebnisse für Anfrage "precision"

3 die antwort

Wie behalte ich die Präzision eines Fortran MPI-Programms auf tragbare Weise?

4 die antwort

Legen Sie die Genauigkeit für eine Gleitkommazahl in PHP fest

Ich bekomme eine Nummer aus der Datenbank und diese Nummer kann auch eine sein

2 die antwort

Holen Sie sich die Präzision der cout

Ich kann die Genauigkeit von einstellen

TOP-Veröffentlichungen

3 die antwort

Genauigkeit des SQL Server-Datentyps - Neo, was ist real?

SQL Server 2000Dokumentation:Gibt Gleitkommazahlen mit den folgenden gültigen Werten an: –3,40E + 38 bis -1,18E - 38, 0 und 1,18E - 38 bis 3,40E + 38. Die Sp...

5 die antwort

Java BigDecimal trigonometrische Methoden

Ich entwickle einen mathematischen Parser, der String-like auswerten kann'5+b*sqrt(c^2)'. Ich benutze ANTLR für das Parsen und mache gute Fortschritte. Jetzt bin ich über die Java-Klasse gestürztBigDecimal und dachte: hey, warum nicht hier über ...

3 die antwort

Analyse der Gleitkomma- / Doppelgenauigkeit in 32 Dezimalstellen

Aus einer .c-Datei eines anderen Mannes habe ich Folgendes gesehen: const float c = 0.70710678118654752440084436210485f;wo er die Berechnung von vermeiden willsqrt(1/2). Kann das wirklich irgendwie mit plain gespeichert werdenC/C++? Ich meine, ...

3 die antwort

Wie interpretiere ich die Genauigkeit und Skalierung einer Zahl in einer Datenbank?

Ich habe die folgende Spalte in einer Datenbank angegeben: decimal (5,2) Wie interpretiert man das? Anhand der in SQL Server Management Studio angezeigten Eigenschaften in der Spalte kann ich erkennen, dass dies bedeutet: Dezimal (numerische ...

12 die antwort

Was ist der Unterschied zwischen Float und Double?

Ich habe über den Unterschied zwischen doppelter und einfacher Präzision gelesen. In den meisten Fällenfloat unddouble austauschbar zu sein scheinen, d. h. die Verwendung des einen oder anderen scheint die Ergebnisse nicht zu beeinflussen. Ist ...

2 die antwort

Extreme numerische Werte in Gleitkomma-Genauigkeit in R

Kann mir bitte jemand die folgende Ausgabe erklären. Ich weiß, dass es etwas mit Gleitkommapräzision zu tun hat, aber die Größenordnung (Differenz 1e308) überrascht mich. 0: hohe Präzision > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: sehr ...

2 die antwort

Warum unterscheidet sich die Gleitkommapräzision in C #, wenn sie durch Klammern und durch Anweisungen getrennt ist?

Mir ist bekannt, wie Gleitkomma-Genauigkeit in normalen Fällen funktioniert, aber ich bin auf eine merkwürdige Situation in meinem C # -Code gestoßen. Warum haben result1 und result2 hier nicht genau den gleichen Gleitkommawert? const float A; ...