Resultados da pesquisa a pedido "rounding-error"

4 a resposta

Erro ao subtrair números de ponto flutuante ao passar por 0,0

O seguinte programa: #include <stdio.h> int main() { double val = 1.0; int i; for (i = 0; i < 10; i++) { val -= 0.2; printf("%g %s\n", val, (val == 0.0 ? "zero" : "non-zero")); } return 0; } Produz esta saída: 0.8 non-zero 0.6 non-zero 0.4 ...

3 a resposta

Prevenção de erros de arredondamento

Eu estava lendo sobre erros de arredondamento em C ++. Portanto, se eu estiver fazendo um programa intenso de matemática (ou quaisquer cálculos importantes), devo colocar todos os flutuadores juntos e usar apenas duplos ou existe uma maneira ...

5 a resposta

Erro de arredondamento do PHP

Estou usando o PHP 5.2.13 no meu servidor linux. Estou recebendo um erro estranho ao arredondar números. Este é o meu caso de teste: <?php echo " " . round(1.505, 2) . "\n"; echo " " . round(11.505, 2) . "\n"; echo " " . round(111.505, 2) . ...

2 a resposta

Existe um tipo de dados "Decimal" em R?

Eu leio dados armazenados no formato

1 a resposta

Código da estrutura da entidade Truncando primeiro meus decimais

Estou usando o Entity Framework 6.x usando a abordagem Code First em um aplicativo MVC 5. Nessa situação específica, meu modelo (entre outras coisas) contém duas propriedades denominadas Latitude e Longitude: [Required, Range(-90, +90)] public ...

1 a resposta

Por que obtenho resultado específico da plataforma para std :: exp? [duplicado

Esta pergunta já tem uma resposta aqui: A matemática do ponto flutuante está quebrada? [/questions/588004/is-floating-point-math-broken] 28 respostasequisitos de precisão de matemática do padrão C e ...

4 a resposta

Questão R com milissegundos de arredondamento

4 a resposta

Diferenças de arredondamento no sistema baseado em Windows e Unix no sprintf

Estou com problemas nos sistemas baseados em UNIX, o sprintf não arredonda corretamente o valor. Por exemplo double tmp = 88888888888885.875 char out[512];Isso é 88.888.888.888.885.875 apenas para ser mais fácil para os olhos. Estou dando um ...

6 a resposta

Imprecisões redondas ao combinar áreas em Java?

Estou trabalhando comAreas em Java. @My programa de teste desenha três triângulos aleatórios e os combina para formar um ou mais polígonos. Depois deAreas estamos.add()ed juntos, eu usoPathIterator para traçar as aresta s vezes, no entanto, ...

5 a resposta

php intval () e floor () retornam valor muito baixo?

Como o tipo de dados flutuantes no PHP é impreciso e um FLOAT no MySQL ocupa mais espaço que um INT (e é impreciso), eu sempre armazeno preços como INTs, multiplicando por 100 antes de armazenar para garantir que tenhamos exatamente 2 casas ...