Resultados da pesquisa a pedido "floating-point"
antagens e desvantagens das representações de ponto flutuante e ponto fixo [fechado]
Venho tentando nos últimos três dias entender as diferenças exatas entre representações de ponto flutuante e de ponto fixo. Estou confuso ao ler o material e não consigo decidir o que é certo e o que é errad m dos problemas está no significado ...
Javascript flutuar subtrair
Eu queria saber como posso subtrair dois números negativos de ponto flutuante em javascript. Eu tentei alert(-0.2-0.1);e o resultado é-0.30000000000000004. Estou fazendo algo errado? O que preciso fazer para obter-0.3 ?
Por que "0f" não é tratado como um literal de ponto flutuante em C ++?
Por que não0f tratado como um literal de ponto flutuante em C ++? #include <iostream> using namespace std; int main(){ cout << 0f << endl; return 0; }Compilar o que foi dito acima me dá C2509 (erro de sintaxe: 'sufixo incorreto no ...
É correto assumir que amostras de ponto flutuante em um arquivo WAV ou AIFF serão normalizadas?
Digamos que eu tenha um programa que leia um arquivo .WAV ou .AIFF e o áudio do arquivo seja codificado como valores de amostra de ponto flutuante. É correto que meu programa assuma que qualquer arquivo .WAV ou .AIFF bem formado (com base em ...
Em Python, pequenos carros alegóricos tendem a zero
Eu tenho um classificador Bayesiano programado em Python, o problema é que, quando multiplico as probabilidades dos recursos, obtenho valores de flutuação MUITO pequenos, como 2,5e-320 ou algo assim, e de repente ele se transforma em 0,0. ...
Por que FLT_MIN é igual a zero?
limits.h especifica limites para tipos de matemática de ponto não flutuante, por exemploINT_MIN eINT_MAX. Esses valores são os valores mais negativos e mais positivos que você pode representar usando um int. Nofloat.h, existem definições ...
Quais são os outros valores de NaN?
odocumentação parajava.lang.Double.NaN [https://docs.oracle.com/javase/8/docs/api/java/lang/Double.html#NaN]diz que é Uma constante contendo um valor Não-numérico (NaN) do tipodouble. É equivalente ao valor retornado ...
Verifique dois valores float / double para a igualdade exata
O que é uma maneira elegante, legível e não detalhada de comparar dois valores de ponto flutuante para igualdade exata?Por mais simples que possa parecer, é ...
Por que a conversão de float para varchar está sendo arredondada no SQL Server
Seguindo sql declare @a as float, @b as float select @a=1.353954 , @b=1.353956 select CAST(@a as VARCHAR(40)) AS a_float_to_varchar , CAST(@b as VARCHAR(40)) AS b_float_to_varcharresulta e a_float_to_varchar b_float_to_varchar ...
Questões de comparação de ponto flutuante no MySQL
Corri um problema ao introduzir colunas de ponto flutuante no esquema do banco de dados MySQL de que as comparações em valores de ponto flutuante nem sempre retornam os resultados corretos. 1 - 50,12 2 - 34,57 3 - 12,75 4 - ... (descanse todos ...