Resultados da pesquisa a pedido "floating-point"
Por que minha matemática inteira com std :: pow está dando a resposta errada?
Considere o seguinte trecho de código:
implementação double-double resiliente ao modo de arredondamento FPU
Contexto: aritmética dupla-dupla"Double-double" éuma representação de números como a soma de dois números de precisão dupla sem sobreposição nos si...
Converter “float” em bytes em Javascript sem o Float32Array
Ok, então eu sou uma situação bastante chata, onde eu não tenho acesso a matrizes digitadas, como Float32Array, mas ainda precisa ser capaz de converter um n...
Ordenar matriz multidimensional por valores decimais
O que estou tentando fazer é classificar uma matriz multidimensional que contém valores decimais. Pelo que testei, os floats estão tendo problemas para serem...
php float calculation 2 ponto decimal
Tem outro problema de cálculo de matemática novamente.
Converter valores flutuantes em um valor de cor hexagonal em escala de cinza
esta questão é rápida e simples.Eu tenho uma matriz 2d de carros alegóricos (0,0000000 a 1,0000000) e eu quero converter esses números para um valor de cor (...
Maneira mais rápida de zerar valores baixos no array?
Então, digamos que eu tenha 100.000 matrizes flutuantes com 100 elementos cada. Preciso do maior número X de valores, MAS apenas se forem maiores que Y. Qual...