Suchergebnisse für Anfrage "decimal"
Python float to Decimal-Konvertierung
Python Decimal unterstützt nicht das Konstruieren aus float. Es wird erwartet, dass Sie float zuerst in einen String konvertieren müssen. Dies ist sehr unpraktisch, da Standardzeichenfolgenformatierer für float die Angabe der Anzahl der ...
convert HEX-String in Dezimalzahl in Arduino
Ich habe einen Hex-String wie diesen: "0005607947" und möchte ihn in eine Dezimalzahl konvertieren. Ich teste ihn aufDiese Seit [http://www.rapidtables.com/convert/number/hex-to-decimal.htm] und es richtig in Dezimalzahl umwandeln und Antwort ...
Wie übergebe ich mit Interop @ eine Dezimalstelle von c # nach vb
Ich habe eine Interop-C # -Klasse mit einer Eigenschaft: decimal ImportoDocumento { get; set; }wenn ich versuche, von vb6 auf diese Eigenschaft zuzugreifen, wird eine Fehlermeldung angezeigt: Compiler-Fehler: Funktion oder Schnittstelle als ...
Wie formatiere ich ein Double in einen String und zeige nur bei Bedarf Dezimalstellen an?
Ich habe Code wie: lblFranshizShowInvwNoskhehEdit.Text = string.Format("{0:n}", (double)(int.Parse(drDarman["FranshizDarsad"].ToString()) * Convert.ToInt64(RadNumerictxtPayInvwNoskhehEdit.Text)) / 100);Aber{0:n0}as Zeichenfolgeformat @ erzwingt, ...
Bash multipliziert Dezimalzahl mit int
Ich habe den Preis von der Benutzereingabe gelesen. Wenn ich die Eingabe mit int wie folgt multiplizieren T ="$((PRICE*QTY))"|bc; ergibt Zeile 272: 12.00: Syntaxfehler: ungültiger arithmetischer Operator (Fehlertoken ist ".00") oder .50 ...
Decimal vs Double Speed
Ich schreibe Finanzanwendungen, bei denen ich ständig mit der Entscheidung kämpfe, ein Doppel gegen ein Dezimal zu verwenden. Alle meine Berechnungen beziehen sich auf Zahlen mit nicht mehr als 5 Dezimalstellen und sind nicht größer als ~ ...
Mathematische Erklärung, warum die Konvertierung von Decimal nach Double unterbrochen ist und Decimal.GetHashCode gleiche Instanzen trennt
Ich bin mir nicht sicher, ob diese nicht standardmäßige Art, eine Stapelüberlauf-Frage zu stellen, gut oder schlecht ist, aber hier geht es weiter: Was ist die beste (mathematische oder anderweitig technische) Erklärung, warum der Code: static ...
Dezimal in Binär umwandeln in Matlab?
Ich konvertiere Basis-10-Zahlen in Basis-2-Zahlen und gebe die Anzahl der Bits an, die ich zur Darstellung dieser Basis-10-Zahlen verwenden möchte. Hier ist mein Code für negative Zahlen: function output = DTB(decimal,binary) if decimal < 0 ...
ASCII-Zeichenfolge in dezimale und hexadezimale Darstellungen konvertieren
Ich muss einen ASCII-String wie ... "hallo2" in seine dezimale und / oder hexadezimale Darstellung konvertieren (eine numerische Form, die spezielle Art ist irrelevant). "Hallo" wäre also: 68 65 6c 6c 6f 32 in HEX. Wie mache ich das in C ++, ohne ...
Warum führt das Hinzufügen von zwei Dezimalstellen in Javascript zu einem falschen Ergebnis? [Duplikat
Mögliches Duplizieren: Ist JavaScripts Mathematik kaputt? [https://stackoverflow.com/questions/588004/is-javascripts-math-broken] Warum vermasselt JS diese einfache Rechnung? document.write(.1 + .2) // 0.3000000000000004 document.write(.3 + ...