Suchergebnisse für Anfrage "floating-point-conversion"

1 die antwort

Warum gibt str (float) in Python 3 mehr Ziffern als in Python 2 zurück?

In Python 2.7,repr einesfloat gibt die nächste Dezimalzahl mit bis zu 17 Stellen zurück; Dies ist genau genug, um jeden möglichen IEEE-Gleitkommawert eindeutig zu identifizieren.str einesfloat funktionierte ähnlich, mit der Ausnahme, dass das ...

6 die antwort

C Gleitkommagenauigkeit [duplizieren]

Mögliche Duplikate:Gleitkomma-VergleichIch habe ein Problem mit der Genauigkeit von float in C / C ++. Wenn ich das folgende Programm ausführe:

1 die antwort

Warum kann der IEEE-754-Gleitkommawert nicht zwischen Plattformen ausgetauscht werden?

Es ist gewesenbehauptet Es ist nicht garantiert, dass der IEEE754-Gleitkommawert (auch unter Berücksichtigung des Byte-Endian-Werts) zwischen Plattformen aus...

TOP-Veröffentlichungen

4 die antwort

Anzahl der signifikanten Stellen für einen Gleitkommatyp

Die Beschreibung für den Typ

2 die antwort

Wie ändere ich eine float64-Nummer richtig in uint64?

package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) } Die Ausgabe wird sein: 6161047830682206208 Es sieht so aus, wennfloat64 ändernuint64, der Bruch wird verworfen.

3 die antwort

Konvertiert IEEE 754-Float mit Vorzeichen in hexadezimale Darstellung

14 die antwort

Converting float to char *

Wie kann ich ein @ konvertierefloat value tochar* imC Sprache

3 die antwort

Umwandlung von 4 Rohbytes in 32-Bit-Gleitkomma

Ich versuche, einen 32-Bit-Gleitkommawert aus einem EEPROM zu rekonstruieren. Die 4 Bytes im EEPROM-Speicher (0-4) lauten: B4 A2 91 4D und der PC (VS Studio) rekonstruiert es korrekt als 3.054199 * 10 ^ 8 (der Gleitkommawert, den ich kenne, ...

3 die antwort

Die MySQL-Bedingung "größer als" gibt manchmal eine Zeile mit dem gleichen Wert zurück

Ich bin mit einer grundlegenden MySQL-Abfrage in ein verblüffendes Problem geraten. Das ist mein Tisch: id | rating 1 | 1317.17 2 | 1280.59 3 | 995.12 4 | 973.88Jetzt versuche ich, alle Zeilen zu finden, in denen dierating Spalte ist größer als ...

5 die antwort

So prüfen Sie, ob eine Benutzereingabe ein Float ist

Ich mache Lerne Python auf die harte Tour, Übung 35. Unten ist der Originalcode, und wir werden gebeten, ihn zu ändern, damit er Zahlen akzeptiert, die nicht nur 0 und 1 enthalten. def gold_room(): print "This room is full of gold. How much do ...