Resultados da pesquisa a pedido "floating-point"
O MATLAB está arredondando para o número inteiro mais próximo
eu tenho um1x50000 matriz de tamanhov e eu quero convertê-lo para média zero e variação de unidade: x = ((v-mean(v))/std2(v));Mas, em vez de me fornecer valores exatos de ponto flutuante, o MATLAB está convertendo para números inteiros mais ...
Arredondamento de flutuador Objective-C
Como arredondar um float para o número inteiro mais próximo no Objective-C: Exemplo: float f = 45.698f; int rounded = _______; NSLog(@"the rounded float is %i",rounded);deve imprimir "o flutuador arredondado é 46"
Como extrair um número flutuante de uma string [duplicado]
Esta pergunta já tem uma resposta aqui: Extrato flutuante / valor duplo [/questions/385558/extract-float-double-value] 4 respostasEu tenho um número de seqüências semelhantesCurrent Level: 13.4 db. e gostaria de extrair apenas o número do ponto ...
Como arredondar um número de ponto flutuante até uma determinada casa decimal?
Suponha que eu tenha8.8333333333333339e quero convertê-lo para8.84. Como posso fazer isso em Python? round(8.8333333333333339, 2) dá8.83 e não8.84. Eu sou novo em Python ou programação em geral. Não quero imprimi-lo como uma sequência, e o ...
Quais são as melhores práticas para repassar valores em dólares no JSON?
Quais são as melhores práticas para repassar valores em dólares no JSON? Passando os valores como strings ou floats? ou outro? Estamos um pouco preocupados com os erros de arredondamento exibidos no cliente (iOS / Android / Web) ou com valores ...
Visual Studio C ++ 2008/2010 - quebra no NaN flutuante
Existe alguma maneira de configurar o Visual Studio (recém-atualizado de 2008 para 2010) para interromper, como se uma afirmação falhasse, sempre quequalquer número de ponto flutuante se torna NaN, QNAN, INF, etc? Até agora, acabei de usar o ...
std :: stod lança o erro out_of_range para uma string que deve ser válida
#include <iostream> #include <cmath> #include <sstream> using namespace std; int main(){ stringstream ss; double ad = 7.63918e-313; ss << ad; cout<<ss.str()<<endl; //you will see that the above double is valid, and maps to the specified string ...
javascript - teto de uma quantia em dólar
Portanto, estou adicionando e subtraindo carros alegóricos em javascript e preciso saber como sempre usar o limite máximo de qualquer número que tenha mais de 3 casas decimais. Por exemplo: 3,19 = 3,19 3,191 = 3,20 3.00000001 = 3.01
Converter float em string hexadecimal de 32 bits em JavaScript
Eu tenho um valor flutuante representando coordenadas gps e eu gostava de convertê-lo em uma seqüência de 32 bits hexadecimal. Eu tentei todas as soluções ...
C # flutuam magicamente alterando o valor
Eu tenho um float com um valor muito importante, que deve ser MUITO exato. O problema que tenho é que estou alterando o valor do float SEMPRE apenas + e - (Nenhuma divisão aqui). Após alterar o valor cerca de 20 vezes, o valor não é 0,05 ...