Suchergebnisse für Anfrage "decimal"

4 die antwort

Dezimal zu RGB in Javascript und PHP

Ich versuche, einen Dezimalwert wieder in einen RGB-Wert umzuwandeln. Angenommen, dies ist die Formel zum Kompilieren des Dezimalwerts c = r*(255*255)+g*255+b (Zum Beispiel rgb (16,120,78) ergibt 1071078) Wie würde man r, g und b ohne ...

44 die antwort

Entfernen Sie nachfolgende Nullen von der Dezimalstelle in SQL Server

Ich habe eine SpalteDECIMAL(9,6) d. h. es werden Werte wie 999, 123456 unterstützt. Aber wenn ich Daten wie 123,4567 einfüge, wird es 123,456700 Wie entferne ich diese Nullen?

18 die antwort

Kürzen eines Dezimalwerts in C ++

Was ist der einfachste Weg, um ein C ++ @ zu kürzefloat Variable mit einem Wert von 0,6000002 bis zu einem Wert von 0,6000 und speichern Sie ihn in der Variablen?

TOP-Veröffentlichungen

20 die antwort

Ist Gleitkommapräzision veränderbar oder unveränderlich?

Ich erhalte immer wieder gemischte Antworten, ob Gleitkommazahlen (d. H.float, double, oderlong double) einen und nur einen Genauigkeitswert haben oder einen Genauigkeitswert haben, der variieren kann. Ein Thema namensfloat vs. double ...

2 die antwort

Konvertieren eines Dezimalwerts in einen 32-Bit-Fließkomma-Hexadezimalwert

Für ein einfaches Dienstprogramm, an dem ich arbeite, benötige ich ein Skript, das einen bestimmten Dezimalwert in einen 32-Bit-Fließkomma-Hexadezimalwert konvertiert. Ich weiß zum Beispiel, dass 1 3F800000 und 100 42C80000 ist, aber ich weiß ...

2 die antwort

Wie werden in DataTables in R Shiny immer 3 Dezimalstellen angezeigt? [geschlossen

Ich muss die Daten in meiner Tabelle mit 3 Dezimalstellen anzeigen, aber es stellt sich heraus, dass beim Ausführen meiner Anwendung keine 3 Dezimalstellen angezeigt werden. Wenn ich jedoch versuche, damit zu interagieren, werden 3 Dezimalstellen ...

4 die antwort

Wie sende ich einen USSD-Code mit einem dezimalen Gleitkomma (.)?

Ich muss einen USSD-Code senden, der einen doppelten Wert enthält, der den zu übertragenden Kontostand darstellt. Dieser Wert setzt sich aus einer Ganzzahl und optional einem Dezimaltrennzeichen sowie zwei weiteren Ziffern zusammen. Mein Code ...

12 die antwort

Was ist eine gute Zuordnung von .NET-Dezimalzahlen zu SQL Server-Dezimalzahlen?

Ich muss C # -Code mit SQL Server verbinden und möchte beim Speichern eines Werts in der Datenbank genau so präzise sein wie bei meinem C # -Code. Ich benutze eines von .NET'sdecimal Typ für einen Wert. Welchen Datentyp / welche Genauigkeit würde ...

16 die antwort

Wie konvertiere ich Dezimalzahlen in Brüche?

Was ich brauche, um Dezimalzahlen in Brüche umzuwandeln. Es ist einfach in 10er Fuß umzurechnen. 1.5 => 15/10Dies kann über diesen Code erfolgen: public class Rational { private int num, denom; public Rational(double d) { String s = ...

16 die antwort

Ist ein Double für Geld wirklich ungeeignet?

Ich sage immer in c #, dass eine Variable vom Typ double nicht für Geld geeignet ist. Alle seltsamen Dinge könnten passieren. Aber ich kann anscheinend kein Beispiel erstellen, um einige dieser Probleme zu demonstrieren. Kann mir jemand so ein ...