Suchergebnisse für Anfrage "floating-point"
Wie gehe ich beim Lesen / Schreiben von Gleitkommatypen in C mit Unterschieden in der Byte-Reihenfolge um?
Ich entwerfe ein Dateiformat für meine Anwendung und möchte natürlich, dass es sowohl auf Big-Endian- als auch auf Little-Endian-Systemen funktioniert. Ich h...
Die meiste pythonische Art zu drucken * höchstens * eine Anzahl von Dezimalstellen [duplizieren]
Diese Frage hat hier bereits eine Antwort:Die Formatierung erfolgt in Python ohne überflüssige Nullen 15 AntwortenIch möchte eine Liste von Gleitkommazahlen ...
TypeError: Ein Float ist erforderlich
Bild kann nicht gepostet werden, also:
Fehler beim gemeinsamen Verwenden von (int) und (double) zum Abschneiden von Dezimalstellen
Wenn ich (int) mit (double) verwende, funktioniert es manchmal nicht richtig.Schauen Sie sich das PHP-Codebeispiel an:Ich muss 2 Dezimalstellen VERLASSEN und...
Wie konvertiert man pcm-Samples in Byte-Arrays als Gleitkommazahlen im Bereich von -1,0 bis 1,0 und zurück?
Der Resampling-Algorithmus, den ich verwende, erwartetschweben Array mit Eingangssamples im Bereich-1,0 bis 1,0 . Die Audiodaten sind16 bit PCM mit Samplerat...
Wie berechne ich die Anzahl der Ziffern nach dem Gleitkomma in iOS?
Wie kann ich die Anzahl der Stellen nach dem Gleitkomma in iOS berechnen?Zum Beispiel:3.105 sollte 3 zurückgeben3.0 sollte 0 zurückgeben2.2 sollte 1 zurückge...
Verwenden von iPhone / Objective C CGFloats: Ist 0.1 in Ordnung oder sollte es 0.1f sein?
Bei Verwendung einer iPhone Objective C-Methode, die akzeptiert
Denormalisierte Zahlen - Gleitkomma nach IEEE 754
Daher versuche ich, mehr über denormalisierte Zahlen zu erfahren, wie sie im IEEE 754-Standard für Gleitkommazahlen definiert sind. Ich habe dank der Google-...