Resultados da pesquisa a pedido "floating-point"
Precisão decimal de flutuadores
equivalente a log10 (2 ^ 24) ≈ 7.225 dígitos decimais Wikipedia [http://en.wikipedia.org/wiki/Single_precision_floating-point_format] Precisão: 7 dígitos MSDN ...
Qual é a diferença entre converter para `float` e adicionar` f` como sufixo ao inicializar um `float`?
Qual é a diferença entre float f = (float) 99.32 ;e float f = 99.32f ;Ambos foram compilados e executados com sucesso.
multiplicação de ponto flutuante vs adição repetida
DeixeiN ser um número inteiro não assinado em tempo de compilação. O GCC pode otimizar unsigned sum = 0; for(unsigned i=0; i<N; i++) sum += a; // a is an unsigned integersimplesmentea*N. Isso pode ser entendido, pois a aritmética ...
Ir: Convertendo float64 em int com multiplicador
Eu quero converter umfloat64 número, digamos1.003 para1003 (tipo inteiro). Minha implementação é simplesmente multiplicar ofloat64 com1000 e lance paraint. package main import "fmt" func main() { var f float64 = 1.003 fmt.Println(int(f * 1000)) ...
Por que Clang otimiza x * 1.0, mas NÃO x + 0.0?
Por que Clang otimiza o loop neste código #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] ...
Como R representa NA internamente?
R parece apoiar uma eficienteNA valor em matrizes de ponto flutuante. Como isso representa internamente? Meu (talvez falho) entendimento é que as CPUs modernas podem realizar cálculos de ponto flutuante no hardware, incluindo o manuseio ...
Conversão hexadecimal de 32 bits para ponto flutuante de 32 bits (IEEE 754) no matlab
Como posso alterar o valor hexadecimal de 32 bits para um valor de ponto flutuante de acordo com o IEEE 754? EDITAR: ... data = fread(fid,1,'float32'); disp(data); ...Eu recebo esta resposta: 4,2950e + 009 1,6274e + 009 ... Mas como obtenho ...
Javascript: Comparando dois valores flutuantes
Eu tenho esta função JavaScript: Contrl.prototype.EvaluateStatement = function(acVal, cfVal) { var cv = parseFloat(cfVal).toFixed(2); var av = parseFloat(acVal).toFixed(2); if( av < cv) // do some thing }Quando eu comparo números ...
Explicação matemática por que a conversão de Decimal para Double está quebrada e Decimal.GetHashCode separa instâncias iguais
Não tenho certeza se essa maneira não padrão de declarar uma pergunta do Stack Overflow é boa ou ruim, mas aqui vai: Qual é a melhor explicação (matemática ou técnica) por que o código: static void Main() { decimal[] arr = { 42m, 42.0m, 42.00m, ...
Não formatar dinheiro ao analisar em PHP
Existe uma maneira de obter o valor flutuante de uma string como esta:75,25 €, outro que não sejaparsefloat(str_replace(',', '.', $var))? Quero que isso dependa do idioma atual do site e, às vezes, a vírgula pode ser substituída por ponto.