Suchergebnisse für Anfrage "floating-point"

4 die antwort

Gleitkommavariable in Ganzzahl konvertieren?

Das folgende Shell-Skript zeigt eine Warnung an, wenn das Laden der Seite länger als 6 Sekunden dauert. Das Problem ist, dass die

3 die antwort

Seltsames Ergebnis der Float Division

Ich bin in einem Grails-Projekt in diesem seltsamen Teilungsfehler aufgetreten (aber ich denke, Grails hat wenig damit zu tun, ist eine groovige oder Java-Fr...

5 die antwort

Gibt es vorzeichenlose Entsprechungen der x87 FILD- und SSE CVTSI2SD-Anweisungen?

Ich möchte das Äquivalent von C implementieren

TOP-Veröffentlichungen

2 die antwort

Eigenschaften von 80-Bit-Berechnungen mit erweiterter Genauigkeit, ausgehend von Argumenten mit doppelter Genauigkeit

2 die antwort

Wie berechne ich eine beliebige Potenz / Wurzel?

Ich habe eine Anwendung, die eine Zahl auf eine gebrochene Potenz erhöhen muss. Die Zielplattform ist ein FPGA, und ich kann Schätzungen für eine FPU-Größe d...

4 die antwort

tan 45 gibt mir 0,9999

Warum tut

6 die antwort

Große Zahlen in JavaScript fälschlicherweise gerundet

2 die antwort

Verwendung von Gleitkomma im Linux-Kernel

Ich lese Robert Loves "Linux Kernel Development" und bin auf folgende Passage gestoßen:Keine (einfache) Verwendung von GleitkommazahlenWenn ein Use...

3 die antwort

Gleitkommavergleich überarbeitet

Dieses Thema ist bei StackOverflow schon oft aufgetaucht, aber ich glaube, das ist eine neue Einstellung. Ja ich habe gelesenBruce Dawsons Artikel undWas jed...

2 die antwort

Ist es sicher, eine Ganzzahl neu zu interpretieren, um zu schweben?

Hinweis: Ich habe fälschlicherweise gefragt