Resultados da pesquisa a pedido "rounding"

1 a resposta

Os pandas lêem o arquivo csv com valores flutuantes resultam em arredondamentos estranhos e dígitos decimais

Eu tenho um arquivo csv contendo valores numéricos, como1524.449677. Sempre existem exatamente 6 casas decimais. Quando importo o arquivo csv (e outras colunas) via pandasread_csv, a coluna obtém automaticamente o tipo de dadosobject. Meu ...

4 a resposta

Java - Decimal Format.parse para retornar valor duplo com número especificado de casas decimais

Quero poder converter uma string em umDuplodado um número de casas decimais em uma string de formato. Então "###, ## 0.000" deve me dar umaDuploaté 3 casas decimais. Editar - adicionou mais informações ao que acontece O usuário digita o valor ...

6 a resposta

Divisão eficiente de valor não assinado por uma potência de dois, arredondando para cima - em CUDA

Eu estava lendo: Dividir com eficiência o valor não assinado por uma potência de dois, arredondando para cima [https://stackoverflow.com/questions/40431599/efficiently-dividing-unsigned-value-by-a-power-of-two-rounding-up] e eu queria saber ...

16 a resposta

Truncar casas decimais (não arredondadas) no SQL Server

Estou tentando determinar a melhor maneira de truncar ou soltar casas decimais extras no SQL sem arredondamento. Por exemplo: declare @value decimal(18,2) set @value = 123.456Isso fará com que o @Value seja arredondado automaticamente para ...

6 a resposta

Figuras significativas em C ++

Como posso fazer contas envolvendo números significativos em C ++? Quero que isso funcione corretamente com dados medidos de experimentos de química e física. Um exemplo: 65/5 = 10. Eu precisaria me livrar de casas decimais desnecessárias e ...

3 a resposta

No jQuery, qual é a melhor maneira de formatar um número com 2 casas decimais?

Isto é o que eu tenho agora: $("#number").val(parseFloat($("#number").val()).toFixed(2));Parece bagunçado para mim. Eu não acho que estou encadeando as funções corretamente. Preciso chamá-lo para cada caixa de texto ou posso criar uma função ...

2 a resposta

PowerShell: converte uma fração em um número inteiro - surpreendente comportamento de arredondamento

Eu tenho uma pergunta interessante sobre ints com decimais. Supondo que eu faça o seguinte: [int] $a = 5/2 $aEu tentei 10 vezes para ter certeza, e o PowerShell sempre retorna2 Existe uma maneira de forçar o Powershell a arredondar para cima ...

8 a resposta

Sempre arredondar para cima um duplo

Como eu sempre poderia reunir umdouble para uminte nunca arredondá-lo para baixo. eu sei deMath.round(double), mas quero que sempre arredonde. Então, se fosse3.2, é arredondado para 4.

5 a resposta

Números de arredondamento PHP

Não consigo descobrir como arredondar sempre em PHP.ceil() seria a escolha óbvia, mas eu preciso da mesma funcionalidade queround() fornece com seu segundo parâmetro "precisão". Aqui está um exemplo: // Desired result: 6250 echo round(6244.64, ...

3 a resposta

rodada em PHP mostra notação científica em vez de número completo

Estou tentando fazer um eco de uma variável contendo 1400000. por isso está escrito:echo round(1400000); isso dá 1,4E + 6 em vez do número completo. Alguém tem uma idéia de como exibi-lo totalmente?