Resultados da pesquisa a pedido "decimal"

7 a resposta

Truncar um número de ponto flutuante sem arredondar para cima

Tenho um número de ponto flutuante que quero truncar para 3 lugares, mas não quero arredonda Por exemplo, converta1.0155555555555555 para1.015 (não1.016). Como eu faria isso em Ruby?

4 a resposta

onvertendo decimal para string com formato não padrão

Preciso converter decimal em string, nestas réguas: 120.00 - "120" 120.01 - "120.01" 120.50 - "120.50"

8 a resposta

Como armazenar valores decimais no SQL Serve

Estou tentando descobrir o tipo de dados decimal de uma coluna no SQL Server. Eu preciso ser capaz de armazenar valores como 15,5, 26,9, 24,7, 9,8, etc I atribuídodecimal(18, 0) para o tipo de dados da coluna, mas isso não me permite armazenar ...

5 a resposta

Conversão da matriz de bytes que contém valores hexadecimais em valores decimais

stou tentando criar uma matriz de bytes que contenha valores hexadecimais em valores decimais. Suponha que eu tenha uma matriz de bytes como array[0]=0X4E; array[1]=0X5E; array[2]=0X75; array[3]=0X49; partir de agora, você pode criar um array de ...

2 a resposta

Cálculo do tipo de dados Float do SQL Server vs decimal

Na consulta a seguir declare @a float(23) declare @b float(23) declare @c float(53) set @a = 123456789012.1234 set @b = 1234567.12345678 set @c = @a * @b select @c select LTRIM(STR((@c),32,12)) declare @x decimal(16,4) declare @y decimal(16,8) ...

3 a resposta

Float vs Decimal no ActiveRecord

Às vezes, os tipos de dados do Activerecord me confundem. Erre, frequentemente. Uma das minhas perguntas eternas é, para um determinado caso, Devo usar:decimal ou:float? Muitas vezes me deparei com este link,ActiveRecord:: decimal vs: ...

17 a resposta

Adicionando números binários

lguém sabe como adicionar 2 números binários, digitados como binários, em Jav Por exemplo,1010 + 10 = 1100.

2 a resposta

Converter o DB2 SQL decimal para DATE

Preciso converter Decimal para data. Eu tenho um campo de data decimal que contém dados como este: 1.132.009,00 - 13/1/2009 7.152.004,00 - 15/7/2004 11.012.005,00 - 01/11/2005 etc Gostaria que fosse lido como xx / xx / xxxx. xiste alguma ...

4 a resposta

egex maior que zero com 2 casas decima

Eu preciso de um RegEx para um valor numérico com até duas casas decimais maior que zero e pode ou não ter um zero na coluna unidades. Devo também adicionar .... números inteiros são bons. Veja alguns comentários abaixo, mas pode haver espaços em ...

3 a resposta

Decimal armazena precisão de string analisada em c #? Quais são as implicações?

Durante uma conversa no IRC, alguém apontou o seguinte: decimal.Parse("1.0000").ToString() // 1.0000 decimal.Parse("1.00").ToString() // 1.00 Como / por que odecimal retém precisão (ou melhor, números significativos) como este? Fiquei com a ...