Suchergebnisse für Anfrage "precision"
Legen Sie die Genauigkeit für eine Gleitkommazahl in PHP fest
Ich bekomme eine Nummer aus der Datenbank und diese Nummer kann auch eine sein
Holen Sie sich die Präzision der cout
Ich kann die Genauigkeit von einstellen
Genauigkeit des SQL Server-Datentyps - Neo, was ist real?
SQL Server 2000Dokumentation:Gibt Gleitkommazahlen mit den folgenden gültigen Werten an: –3,40E + 38 bis -1,18E - 38, 0 und 1,18E - 38 bis 3,40E + 38. Die Sp...
Java BigDecimal trigonometrische Methoden
Ich entwickle einen mathematischen Parser, der String-like auswerten kann'5+b*sqrt(c^2)'. Ich benutze ANTLR für das Parsen und mache gute Fortschritte. Jetzt bin ich über die Java-Klasse gestürztBigDecimal und dachte: hey, warum nicht hier über ...
Analyse der Gleitkomma- / Doppelgenauigkeit in 32 Dezimalstellen
Aus einer .c-Datei eines anderen Mannes habe ich Folgendes gesehen: const float c = 0.70710678118654752440084436210485f;wo er die Berechnung von vermeiden willsqrt(1/2). Kann das wirklich irgendwie mit plain gespeichert werdenC/C++? Ich meine, ...
Wie interpretiere ich die Genauigkeit und Skalierung einer Zahl in einer Datenbank?
Ich habe die folgende Spalte in einer Datenbank angegeben: decimal (5,2) Wie interpretiert man das? Anhand der in SQL Server Management Studio angezeigten Eigenschaften in der Spalte kann ich erkennen, dass dies bedeutet: Dezimal (numerische ...
Was ist der Unterschied zwischen Float und Double?
Ich habe über den Unterschied zwischen doppelter und einfacher Präzision gelesen. In den meisten Fällenfloat unddouble austauschbar zu sein scheinen, d. h. die Verwendung des einen oder anderen scheint die Ergebnisse nicht zu beeinflussen. Ist ...
Extreme numerische Werte in Gleitkomma-Genauigkeit in R
Kann mir bitte jemand die folgende Ausgabe erklären. Ich weiß, dass es etwas mit Gleitkommapräzision zu tun hat, aber die Größenordnung (Differenz 1e308) überrascht mich. 0: hohe Präzision > 1e-324==0 [1] TRUE > 1e-323==0 [1] FALSE1: sehr ...
Warum unterscheidet sich die Gleitkommapräzision in C #, wenn sie durch Klammern und durch Anweisungen getrennt ist?
Mir ist bekannt, wie Gleitkomma-Genauigkeit in normalen Fällen funktioniert, aber ich bin auf eine merkwürdige Situation in meinem C # -Code gestoßen. Warum haben result1 und result2 hier nicht genau den gleichen Gleitkommawert? const float A; ...