Resultados da pesquisa a pedido "floating-point"
Saída estranha ao comparar os mesmos valores de flutuação?
Comparando os mesmos valores flutuantes em C [https://stackoverflow.com/questions/9850663/comparing-same-float-values-in-c] saída estranha em comparação de float com float ...
Visual C ++ / Comportamento estranho após habilitar exceções de ponto flutuante (erro do compilador?)
Estou lutando para obter uma maneira confiável de capturar exceções de pontos flutuantes no Visual Studio (2005 ou 2008). Por padrão, no visual studio, as exceções de ponto flutuante não são capturadas e são muito difíceis de ...
Armazenando ints como flutuadores
Suponha que eu tenha uma API que permita apenas armazenar carros alegóricos ou matrizes de carros alegóricos. No entanto, eu gostaria de armazenar valores inteiros aqui. Eu (grosso modo) entendo que estou bem com um elenco reto de cerca de 2 ^ ...
Quais são as regras que regem os cálculos mistos de precisão simples e dupla de C ++?
Por exemplo, estas variáveis: result (double) a (double) b (float) c (float) d (double)Um cálculo simples: result = a * (b + c) * dComo e quando os tipos são convertidos e como faço para descobrir com que precisão cada cálculo é realizado?
Limitar a quantidade de número mostrado após uma casa decimal em javascript
Hay, eu tenho alguns carros alegóricos como estes 4.3455 2.768 3.67e eu quero exibi-los assim 4.34 2.76 3.67Não quero arredondar o número para cima ou para baixo, apenas limite a quantidade de números mostrados após a casa decimal para 2.
Por que estou obtendo o resultado errado ao usar o float? [duplicado]
Possíveis duplicatas: Por que é (duplo) 0,6f> (duplo) (6 / 10f)? [https://stackoverflow.com/questions/3748768/why-is-double0-6f-double6-10f] Por que a aritmética de ponto flutuante em C # é ...
Por que o Perl é inconsistente com o arredondamento do sprintf?
Aqui está um script perl: #!/usr/bin/perl use strict; use warnings; use feature 'say'; my @numbers = qw( 0.254 0.255 0.256 ); foreach my $number (@numbers) { my $rounded = sprintf '%.2f', $number; say "$number => $rounded"; } foreach my $number ...
Adicionando a menor flutuação possível a uma flutuação
Eu quero adicionar o menor valor possível de um float para um float. Então, por exemplo, tentei fazer isso para obter 1,0 + o menor valor flutuante possível: float result = 1.0f + std::numeric_limits<float>::min();Mas depois de fazer isso, ...
Arredondamento padrão do formato Python ao formatar número flutuante
Estou tentando resolver alguns problemas de ponto flutuante no meu código no Python 2.7.10. Ao testar, encontrei um comportamento estranho com oformat método: print "{}".format(0.3000000000004) # 13 decimalsImpressões:0.3 Mas: print ...
No MATLAB, as variáveis são REALMENTE de precisão dupla por padrão?
Essa questão surgiu de algo estranho que eu notei depois de investigaressa questão [https://stackoverflow.com/q/4222257/52738]mais distante... Eu sempre entendi as variáveis MATLAB comodupla ...