Resultados da pesquisa a pedido "decimal"

7 a resposta

Conversão de flutuador Python para decimal

O Python Decimal não suporta a construção de float; espera que você precise converter float em uma string primeiro. Isso é muito inconveniente, pois os formatadores de seqüência de caracteres padrão para flutuação exigem que você especifique o ...

8 a resposta

Um duplo é realmente inadequado para dinheiro?

Eu sempre digo em c # que uma variável do tipo double não é adequada para dinheiro. Todas as coisas estranhas podem acontecer. Mas não consigo criar um exemplo para demonstrar alguns desses problemas. Alguém pode dar um exemplo? (editar; esta ...

2 a resposta

converter string HEX para decimal no arduino

Eu tenho uma Cadeia de caracteres hexadecimal como esta: "0005607947" e quero convertê-lo em número decimal, testá-lo emesse site [http://www.rapidtables.com/convert/number/hex-to-decimal.htm]e converta corretamente para o número decimal e a ...

1 a resposta

Como passar um decimal de c # para vb6 com interoperabilidade

Eu tenho uma classe de interoperabilidade c # com uma propriedade: decimal ImportoDocumento { get; set; }se eu tentar acessar essa propriedade do vb6 a receber um erro: Erro do compilador: Função ou interface marcada como restrita ou a função ...

2 a resposta

Como formato um duplo em uma string e só mostro dígitos decimais quando necessário?

Eu tenho código como: lblFranshizShowInvwNoskhehEdit.Text = string.Format("{0:n}", (double)(int.Parse(drDarman["FranshizDarsad"].ToString()) * Convert.ToInt64(RadNumerictxtPayInvwNoskhehEdit.Text)) / 100);Mas{0:n0} O formato da string força o ...

5 a resposta

Bash Multiplicando decimal para int

Eu li o preço da entrada do usuário. Quando eu multiplico a entrada com int como este T ="$((PRICE*QTY))"|bc; fornece linha 272: 12.00: erro de sintaxe: operador aritmético inválido (o token de erro é ".00") ou 0,50 dependendo da entrada do ...

6 a resposta

Nos bastidores, o que está acontecendo com o tipo de valor decimal em C # / .NET?

Como está odecimal tipo implementado? Atualizar É um tipo de valor de 128 bits (16 bytes)1 bit de sinal96 bits (12 bytes) para a mantissa8 bits para o expoentebits restantes (23 deles!) definidos como 0 Obrigado! Vou continuar usando um ...

2 a resposta

Explicação matemática por que a conversão de Decimal para Double está quebrada e Decimal.GetHashCode separa instâncias iguais

Não tenho certeza se essa maneira não padrão de declarar uma pergunta do Stack Overflow é boa ou ruim, mas aqui vai: Qual é a melhor explicação (matemática ou técnica) por que o código: static void Main() { decimal[] arr = { 42m, 42.0m, 42.00m, ...

5 a resposta

Converter string ASCII em representações decimais e hexadecimais

Eu preciso converter uma string ASCII como ... "hello2" em sua representação decimal e / ou hexadecimal (uma forma numérica, o tipo específico é irrelevante). Então, "olá" seria: 68 65 6c 6c 6f 32 em HEX. Como faço isso em C ++ sem usar apenas ...

2 a resposta

Converter decimal em binário no Matlab?

Estou convertendo números da base 10 em números da base 2 e especificando o número de bits que gostaria de usar para representar esses números da base 10. Aqui está o meu código para números negativos: function output = DTB(decimal,binary) if ...