Suchergebnisse für Anfrage "decimal"
Decimal - abschließende Nullen abschneiden
Ich habe festgestellt, dass .NET in Bezug auf Dezimalstellen und nachfolgende Nullen ein irres / unintuitives Verhalten aufweist. 0m == 0.000m //true 0.1m == 0.1000m //trueabe (0m).ToString() == (0.000m).ToString() //false (0.1m).ToString() ...
Wie man eine Binärzahl in eine vorzeichenbehaftete Dezimalzahl umwandelt
Ich habe so etwas wie eine Binärzahl .. var data = "1100110010". Ich versuche, dies in die entsprechende vorzeichenbehaftete Dezimalzahl in Javascript umzuwandeln. Die Schritte, die ich benutze, folgen 1)var data = "1100110010"; var bin2dec = ...
MySQL Grad, Minuten, Sekunden in Dezimalgrad umrechnen
Ich habe mehrere Zeilen mit Grad-Minuten-Sekunden, die ich mit einer Abfrage konvertieren muss. 36 ° 19'11.46 "N = 36.31985 95 ° 36'02.22 "W = 95.600617 Jede Zeile wird anders sein. Ich bin seit zwei Tagen dabei. Ist das überhaupt möglich?
Access-Datenbank speichert Dezimalwerte nicht richtig
Ich habe einige Probleme beim Versuch, Dezimalwerte in einer Tabelle in meiner Access-Datenbank zu speichern. Wenn ich die Werte eingebe, gibt es kein Problem, aber wenn ich versuche, sie mit meinem Programm zu speichern, speichert die ...
Wie würde ich Dezimalzahlen in Binärzahlen konvertieren?
lles was ich wirklich weiß ist PHP und ich habe dasdecbin Funktion etc, es war ziemlich einfach zu tun. In diesem C ++ - Programm möchte ich dasselbe tun, nur eine einfache Zahl oder Zeichenfolge, wie würde ich das tun?
Was ist die größte Zahl, die die Decimal-Klasse verarbeiten kann?
Mein Programm berechnet die mathematische Konstantee, das ist irrational. Um dies zu tun, musste ich Fakultäten mit sehr großen Zahlen besorgen. int kann keine Zahlen größer als 170 verarbeiten !. (Ich habe festgestellt, dass der größte ...
Runden Sie eine Dezimalstelle auf das nächste Viertel in C #
Ist es in c # eine einfache Möglichkeit, eine Dezimalstelle auf das nächste Viertel zu runden, d. H. X.0, x.25, x.50 x.75, zum Beispiel würde 0.21 auf 0.25, 5.03 auf 5.0 runden. ielen Dank im Voraus für jede Hilf
WPF Benutzerdefiniertes Textfeld mit Dezimalformatierung
Ich bin neu bei WPF. Ich muss ein benutzerdefiniertes Textfeld-Steuerelement entwickeln, das die folgenden Funktionen unterstützt: Sollte nur Dezimalwerte akzeptieren. Sollte auf 3 Dezimalstellen gerundet werden, wenn ein Wert durch Code oder ...
Dezimalstellenprobleme mit Gleitkommazahlen und Dezimalstellen.Decimal
Ich scheine viel Präzision mit Schwimmern zu verlieren. Zum Beispiel muss ich eine Matrix lösen: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0Dies ist der Code, mit dem ich die Matrix aus einer Textdatei importiere: f = ...
Präzise Finanzberechnung in JavaScript. Was sind die Gotchas?
Um plattformübergreifenden Code zu erstellen, möchte ich eine einfache Finanzanwendung in JavaScript entwickeln. Die erforderlichen Berechnungen umfassen Zinseszinsen und relativ lange Dezimalzahlen. Ich möchte wissen, welche Fehler zu vermeiden ...