Suchergebnisse für Anfrage "floating-point"

7 die antwort

Float gegen Double

6 die antwort

Bereiche des Gleitkomma-Datentyps in C?

1 die antwort

Erweiterte Precision Floating Point Library C / C ++

Ich suche eine erweiterte Präzisions-Gleitkomma-Bibliothek mit folgenden Funktionen:feste Datentypgröße (d. h. der erweiterte Präzisions-Float benötigt eine ...

TOP-Veröffentlichungen

1 die antwort

max float dargestellt in IEEE 754

1 die antwort

IEEE-754-Standard für NVIDIA-GPU (sm_13)

3 die antwort

Python Float Gleichheit Verrücktheit

Heute Abend ein unerwartetes Verhalten mit Python beobachten. Warum ist der folgende Ausdruck nicht gleich ?!

2 die antwort

JSON.parse analysiert / konvertiert große Zahlen falsch

Mein Problem ist sehr einfach, aber ich bin mir nicht sicher, ob es eine "native" Lösung mit JSON.parse gibt.Ich bekomme dasZeichenfolge von einer ...

2 die antwort

Wie konvertiere ich einen Hex-String in ein Float-Format in Java?

11 die antwort

Soll ich double oder float verwenden?

Was sind die Vor- und Nachteile der Verwendung eines anstelle des anderen in C ++?

8 die antwort

Generieren JIT-Compiler von JVM Code, der vektorisierte Gleitkommaanweisungen verwendet?

Nehmen wir an, der Engpass in meinem Java-Programm besteht in engen Schleifen, um eine Reihe von Vektorpunktprodukten zu berechnen. Ja, ich habe ein Profil e...