Resultados da pesquisa a pedido "decimal"
Decimal para RGB em Javascript e PHP
Estou tentando converter um valor decimal novamente em um valor RGB. Supondo que esta seja a fórmula para compilar o valor decimal c = r*(255*255)+g*255+b(Por exemplo, rgb (16.120,78) soma 1071078) Como alguém resolveria r, g e b sem nenhum ...
Remover zeros à direita do decimal no SQL Server
Eu tenho uma colunaDECIMAL(9,6) ou seja, suporta valores como 999,123456. Mas quando insiro dados como 123,4567, eles se tornam 123,456700 Como remover esses zeros?
Truncar um valor decimal em C ++
Qual é a maneira mais fácil de truncar um C ++float variável que tem um valor de 0,6000002 a um valor de 0,6000 e armazena-o novamente na variável?
A precisão do ponto flutuante é mutável ou invariável?
Continuo recebendo respostas contraditórias sobre se os números de ponto flutuante (ou seja,float, doubleoulong double) têm um e apenas um valor de precisão ou um valor de precisão que pode variar. Um tópico chamadoflutuador vs. precisão ...
A precisão dos dígitos decimais mais significativos é que pode ser convertida em binária e de volta em decimal sem perda de significância 6 ou 7.225?
Encontrei duas fórmulas de precisão diferentes para números de ponto flutuante. ⌊ (N-1) log10(2) ⌋ = 6 dígitos decimais(Precisão única) e N log10(2) ≈ 7.225 dígitos decimais(Precisão única) OndeN = 24Bits significativos (Precisão única) A ...
Convertendo um valor decimal em um hexadecimal de ponto flutuante de 32 bits
Para um utilitário simples em que estou trabalhando, preciso de um script que converta um determinado valor decimal em um valor hexadecimal de ponto flutuante de 32 bits. Por exemplo, eu sei que 1 é 3F800000 e 100 é 42C80000, mas não sei como ...
Como sempre exibir 3 casas decimais em DataTables em R Shiny? [fechadas]
Preciso exibir os dados na minha tabela com três casas decimais, mas acontece que ele não exibe três casas decimais quando executo meu aplicativo. Embora quando eu tento interagir com ele, ele mostre 3 casas decimais. Há alguma maneira de fazer ...
Como enviar um código USSD contendo ponto flutuante decimal (.)?
Preciso enviar um código USSD contendo um valor duplo, que representa o valor da conta do saldo a ser transferido. Este valor é composto por um número inteiro e, opcionalmente, um separador decimal e mais 2 dígitos. Meu código é o ...
O que é um bom mapeamento do decimal do .NET para o decimal do SQL Server?
Estou tendo que fazer interface com algum código C # com o SQL Server e quero ter exatamente tanta precisão ao armazenar um valor no banco de dados quanto com meu código C #. Eu uso um dos .NETdecimal digite para um valor. Que tipo de dados / ...
Como converter decimais em frações?
O que eu preciso para converter decimais em frações. É fácil converter para 10 pés. 1.5 => 15/10Isso pode ser feito através deste código: public class Rational { private int num, denom; public Rational(double d) { String s = String.valueOf(d); ...