Suchergebnisse für Anfrage "arbitrary-precision"

10 die antwort

Arbitrary Präzisionsarithmetik mit Ruby

Wie zum Teufel macht Ruby das? Weiß Jörg oder sonst jemand, was hinter den Kulissen passiert? Leider kenne ich C nicht so gut, alsobignum.c [https://GitHub.Com/Ruby/Ruby/tree/trunk/bignum.c#L1816-1848] hilft mir wenig. Ich war nur ein bisschen ...

1 die antwort

Lassen Sie GCC Carry Logic für beliebig genaue Arithmetik ohne Inline-Assembly verwenden?

Gibt es beim Arbeiten mit Arithmetik beliebiger Genauigkeit (z. B. 512-Bit-Ganzzahlen) eine Möglichkeit, GCC zur Verwendung von ADC- und ähnlichen Befehlen z...

2 die antwort

x86-64 Big Integer-Darstellung?

Wie stellen native Big-Integer-Bibliotheken mit hoher Leistung auf x86-64 eine Big Integer im Speicher dar? (oder variiert es? Gibt es einen gängigen Weg?)Na...

TOP-Veröffentlichungen

3 die antwort

Beschleunigen Sie die ADD-Schleife des x64-Assemblers

Ich arbeite an der Arithmetik zur Multiplikation sehr langer Ganzzahlen (ca. 100.000 Dezimalstellen). Als Teil meiner Bibliothek möchte ich zwei lange Nummer...

1 die antwort

willkürliche Genauigkeitsaddition unter Verwendung von Ziffernlisten

Was ich versuche, ist, zwei Listen zu nehmen und sie zusammenzufügen, als ob jede Liste eine ganze Zahl ist.

2 die antwort

Merkwürdige Präzisionsprobleme in R bei der Berechnung der kumulativen Binomialwahrscheinlichkeit