Resultados da pesquisa a pedido "floating-point"
Por que os infinitos de ponto flutuante, diferentemente dos NaNs, são iguais?
Por que a comparação infinita não segue a lógica aplicada aos NaNs? Este código é impressofalse três vezes: double a = Double.NaN; double b = Double.NaN; System.out.println(a == b); // false System.out.println(a < b); // false ...
Como posso comparar o desempenho da divisão log () e fp em C ++?
Estou usando uma classe baseada em log em C ++ para armazenar valores muito pequenos de ponto flutuante (pois, caso contrário, os valores vão além do escopo dedouble) Como estou realizando um grande número de multiplicações, isso tem o benefício ...
Como converter um float em int no Objetivo C?
Pergunta total para iniciantes, mas isso está me deixando louco! Estou tentando isso: myInt = [myFloat integerValue];mas recebo um erro dizendo que essencialmente integerValue não funciona em carros alegóricos. Como eu faço isso?
Como o fma () é implementado
De acordo comdocumentação [http://sourceware.org/newlib/libm.html#fma], existe umfma() função emmath.h. Isso é muito bom, e eu sei como as FMA funcionam e para que usá-las. No entanto, não tenho tanta certeza de como isso é implementado ...
Problemas de casas decimais com carros alegóricos e decimais.
Parece que estou perdendo muita precisão com carros alegóricos. Por exemplo, eu preciso resolver uma matriz: 4.0x -2.0y 1.0z =11.0 1.0x +5.0y -3.0z =-6.0 2.0x +2.0y +5.0z =7.0Este é o código que eu uso para importar a matriz de um arquivo de ...
Loop infinito heisenbug: sai se eu adicionar uma impressão
Este é o meu código fonte: #include <iostream> #include <cmath> using namespace std; double up = 19.0 + (61.0/125.0); double down = -32.0 - (2.0/3.0); double rectangle = (up - down) * 8.0; double f(double x) { return (pow(x, 4.0)/500.0) - ...
Python: int (3.0) = 2
Observe o seguinte programa python def goo(y,x): y = float(y) x = float(x) yup = (y - x - 1) / x yup = str(yup) yup = yup.split(".") decimal = "." + yup[1] decimal = float(decimal) output = decimal / (1/x) print output print int(output) ...
Problema de arredondamento em Python
>>> num = 4.123456 >>> round(num, 3) # expecting 4.123 4.1230000000000002Estou esperando 4.123 como resultado, estou errado?
Java: A máquina dupla epsilon não é o menor x, de modo que 1 + x! = 1?
Estou tentando determinar odouble epsilon máquina [http://en.wikipedia.org/wiki/Machine_epsilon]em Java, usando a definição de ser o menor representáveldouble valorx de tal modo que1.0 + x != 1.0, assim como em C / C ++. De acordo com a ...
Como posso escrever uma função de poder?
Sempre pensei em como criar uma função que calcula a potência (por exemplo, 23) Eu mesmo. Na maioria dos idiomas, eles estão incluídos na biblioteca padrão, principalmente comopow(double x, double y), mas como eu mesmo posso escrever? Eu estava ...