Suchergebnisse für Anfrage "floating-point"
wie werden Gleitkommazahlen im Speicher abgelegt [closed]
enn der Computer nur Nullen und Einsen darunter versteht, wie werden Gleitkommazahlen wie 12.1234 im Speicher als eine Menge von Nullen und Einsen dargestell wird es mit den jeweiligen ASCII-Werten 1, 2, ... gespeichert? , 1,2,3,4 bzw. ..?
Wie lese ich jeweils ein Zeichen aus einer Datei in Python ein?
Ich möchte eine Liste von Zahlen aus einer Datei als Zeichen nach dem anderen einlesen, um zu überprüfen, was dieses Zeichen ist, ob es eine Ziffer, ein Punkt, ein + oder -, ein e oder E oder ein anderes Zeichen ist ... und dann die gewünschte ...
MySQL Gleitkommavergleichsprobleme
Ich bin auf ein Problem gestoßen, als ich Gleitkommaspalten in das MySQL-Datenbankschema einführte, die bei Vergleichen mit Gleitkommawerten nicht immer die richtigen Ergebnisse liefern. 1 - 50,12 2 - 34,57 3 - 12.75 4 - ... (Rest weniger als ...
Wie breitet sich ein Gleitkomma-Fehler aus, wenn mathematische Operationen in C ++ ausgeführt werden?
Nehmen wir an, wir haben die folgenden Variablen deklariert float a = 1.2291; float b = 3.99; float -Variablen haben die Genauigkeit 6, was (wenn ich das richtig verstehe) bedeutet, dass die Differenz zwischen der Zahl, die der Computer ...
floats kleiner als FLT_MIN. Warum FLT_TRUE_MIN?
ei dem Versuch zu sehen, was im Fall eines Float-Unterlaufs passieren würde, stellte ich fest, dass ich Float-Zahlen viel kleiner als FLT_MIN machen konnte. Ich verwende xcode 5.1 unter OS 10.9. Der Sprachdialekt ist gnu99. #include <stdio.h> ...
Warum unterscheidet sich ein Divisionsergebnis je nach Besetzungstyp? (Nachverfolgen
Dies ist eine Antwort auf diese Frage:Warum unterscheidet sich ein Divisionsergebnis je nach Besetzungstyp? [https://stackoverflow.com/questions/25703304/why-does-a-division-result-differ-based-on-the-cast-type] Kurze Zusammenfassung byte b1 = ...
Float Fractional Precision
Wie viele Orte der Präzision hat einfloat habe zwischen1.0f und0.0f so dass jeder Wert eindeutig dargestellt werden kann? Zum Beispiel, wenn die erste gebrochene Zahlfloat konnte @ nicht darstell0.13f Die Antwort wäre, dass ein Schwimmer nur 1 ...
Wie finde ich den Hash-Wert eines 3D-Vektors?
Ich versuche, eine breitphasige Kollisionserkennung mit einem Ansatz mit fester Gittergröße durchzuführen. Für die Position jeder Entität: (x, y, z) (jede vom Typ float) muss ich herausfinden, in welcher Zelle die Entität liegt. Ich beabsichtige ...
Wie finden Sie den nächstgelegenen ungleichen Wert eines Floats? [Duplikat
Diese Frage hat hier bereits eine Antwort: Wie ändere ich einen Float um das kleinste Inkrement (oder in der Nähe davon)? [/questions/155378/how-to-alter-a-float-by-its-smallest-increment-or-close-to-it] 7 answersA float (a.k.a. single) -Wert ...
Überprüfen Sie, ob float in der Nähe eines im Array @ gespeicherten float lieg
Ich muss prüfen, ob ein bestimmter Schwimmer innerhalb einer bestimmten Toleranz nahe an @ lieg any float in einem Array von Floats. import numpy as np # My float a = 0.27 # The tolerance t = 0.01 # Array of floats arr_f = np.arange(0.05, 0.75, ...