Resultados da pesquisa a pedido "floating-point"
Python: Converter string (em notação científica) para flutuar
Estou tentando importar um arquivo .csv grande contendo texto e números usando genfromtxt em numpy. Só estou interessado em duas colunas. Eu tenho a maior parte da importação resolvida com: def importfile(root): data = root.entry.get() atw = ...
Por que a literatura de aproximação de pecado baseada em tabela sempre usa essa fórmula quando outra fórmula parece fazer mais sentido?
A literatura sobre computação da função elementarsin com tabelas refere-se à fórmula: sin(x) = sin(Cn) * cos(h) + cos(Cn) * sin(h)Ondex = Cn + h, Cn é uma constante para a qualsin(Cn) ecos(Cn) foram pré-computados e estão disponíveis em ...
Qual é a diferença entre float e double?
Eu li sobre a diferença entre precisão dupla e precisão única. No entanto, na maioria dos casos,float edouble parecem intercambiáveis, ou seja, o uso de um ou de outro não parece afetar os resultados. É este realmente o caso? Quando os carros ...
Você pode comparar valores de ponto flutuante exatamente com zero?
Eu sei que não podemos comparar 2 valores de ponto flutuante usando ==. Só podemos comparar se eles estão a algum intervalo um do outro. eu sei if(val == 0.512)está errado devido a erros inerentes aos cálculos de ponto flutuante e conversão para ...
Práticas recomendadas para comparação de flutuadores no Matlab
Obviamente, a comparação de flutuação é sempre complicada. Eu tenho muitas checagens no meu código (científico), então muitas vezes tenho que checar a igualdade de somas em uma e questões similares. Existe uma maneira rápida e fácil / de ...
A função variável (va_arg) não funciona com float, enquanto printf funciona? Qual a diferença?
Acabei de ter uma situação semelhante, como nesta pergunta, de dois anos: A função variável (va_arg) não funciona com float? [https://stackoverflow.com/questions/11270588/variadic-function-va-arg-doesnt-work-with-float] Dizem que o problema ...
Por que a velocidade desse solucionador SOR depende da entrada?
Relacionado ao meuoutra questão [https://stackoverflow.com/questions/2388196/how-to-speed-up-my-sparse-matrix-solver] , Modifiquei agora o solucionador de matriz esparsa para usar o método SOR (Sucessivo excesso de relaxamento). O código agora é ...
"F" após o número / número flutuante no Objective-C / C
Não consigo encontrar isso nos documentos da Apple, então: o que o "f" após os números aqui indicam? Isso é de C ou Objective-C? Existe alguma diferença em não adicionar isso a um número constante? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, ...
Não foi possível encontrar uma sobrecarga para '*' que aceita o argumento fornecido
Eu converti umString para umInt usandotoInt(). Tentei multiplicá-lo por 0,01, mas recebo um erro que dizCould not find an overload for '*' that accepts the supplied argument. Aqui está o meu código: var str: Int = 0 var pennyCount = 0.00 str = ...
Como separar float em um número inteiro e uma parte fracionária?
Estou disposto a lançar operações precisas e, para esse efeito, preciso separar um número flutuante em um número inteiro e uma parte fracionária. Existe alguma maneira para isso?