Suchergebnisse für Anfrage "floating-point"
Falsche Ausgabe von printf einer Zahl
int main() { double i=4; printf("%d",i); return 0; }Kann mir jemand sagen, warum dieses Programm 0 ausgibt?
Vektorierbare Implementierung der komplementären Fehlerfunktion erfcf ()
Die komplementäre Fehlerfunktion, erfc, ist eine Sonderfunktion, die eng mit der Standardnormalverteilung verwandt ist. Es wird häufig in der Statistik und in den Naturwissenschaften verwendet (z. B. bei Diffusionsproblemen), wo die "Schwänze" ...
Wie man eine NaN in C ++ verfolgt
Ich werde einige mathematische Berechnungen mit C ++ durchführen. Die eingegebene Gleitkommazahl ist eine gültige Zahl, aber nach den Berechnungen ist der resultierende Wert NaN. Ich möchte den Punkt verfolgen, an dem der NaN-Wert angezeigt wird ...
Wie bekomme ich die ersten n Bits der Gleitkommazahl als Ganzzahl in Python
ngenommen, ich habe0.625 als Gleitkomma ist0b.101, wenn ich also die ersten beiden Bits davon als Ganzzahl haben möchte, d. h.0b10 = 2, wie kann ich das in Python erreichen? Ich habe versucht, die Zahl auf eine Potenz von 2 zu setzen und auf ...
Geben Sie den ganzzahligen Darstellungswert einer Variablen vom Typ float in C @ ei
Ich habe die Nummer 20 (0x14) in einem 32-Bit-Register gespeichert. Das Register ist einer C-Float-Variablen zugeordnet, die den Wert 2.8e-44 darstellt. Jetzt möchte ich die hexadezimale Darstellung der Float-Variablen zurückholen und in einer ...
Warum keine vorzeichenlosen Gleitkommatypen? [Duplikat
Mögliches Duplizieren: Warum hat C keine nicht signierten Floats? [https://stackoverflow.com/questions/512022/why-doesnt-c-have-unsigned-floats] Die Frage ist wahrscheinlich sehr einfach und wurde wahrscheinlich schon oft beantwortet, aber ich ...
Warum können Gleitkommazahlen nicht verglichen werden? [Duplikat
Mögliches Duplizieren: seltsame Ausgabe im Vergleich von float mit float-Literal [https://stackoverflow.com/questions/1839422/strange-output-in-comparision-of-float-with-float-literal] #include<stdio.h> int main() { float me = 1.7; if(me==1.7) ...
Golang konvertiert float64 nach int error
Wie kann ich Gleitkommafehler vermeiden, wenn ich float's in int's konvertiere? Beispielsweise wird der folgende Code gedruckt:0.5499999999999972 Wenn ich Wunde erwarte es zu drucken0.55. package main import "fmt" func main() { x := 100.55 ...
Hat JavaScript eine doppelte Gleitkommazahlengenauigkeit?
Ich weiß, dass es eine seltsame Frage ist, aber kann JavaScript mit Double's und nicht mit Single Floats arbeiten? (64-Bit-Gleitkommazahlen im Vergleich zu 32-Bit-Gleitkommazahlen)
Wie man die maximale Genauigkeit für double @ ermitte
Ich versuche herauszufinden, wie hoch die maximale Präzision für ein Double ist. In den Kommentaren für die akzeptierte Antwort in diesem LinkRetain Präzision mit Doppel in ...