Resultados da pesquisa a pedido "floating-point"
Como converter um flutuador hexadecimal em um flutuador em C / C ++ usando a função instrinc _Emm_extract_ps SSE GCC
Estou escrevendo um código SSE para convolução 2D, mas a documentação do SSE é muito escassa. Estou calculando o produto escalar com _mm_dp_ps e usando _mm_extract_ps para obter o resultado do produto escalar, mas _mm_extract_ps retorna um ...
Swift - Como remover um decimal de um flutuador se o decimal for igual a 0?
Estou exibindo uma distância com um decimal e gostaria de removê-lo, caso seja igual a 0 (ex: 1200,0Km), como eu poderia fazer isso rapidamente? Estou exibindo esse número assim: let distanceFloat: Float = (currentUser.distance! as ...
float128 e aritmética duplo-duplo
Eu vi na wikipedia que, de alguma maneira, implementar a precisão quad é usar aritmética duplo-duplo, mesmo que não seja exatamente a mesma precisão em termos de ...
Flutuadores não avaliados como negativos (Python)
Estou tentando excluir valores de ponto flutuante em uma lista que é negativa. A lista original com todos os valores é assim: [ 0.030079979253112028, -0.006015995850622406, -0.08920269709543568, -25.72356846473029, -9.770807053941908, ...
Ponto flutuante duplo estendido (80 bits) em x87, não SSE2 - não perdemos?
Eu estava lendo hoje sobrepesquisadores descobrindo que as bibliotecas Phys-X da NVidia usam x87 FP vs. SSE2 [http://www.zdnet.com/blog/hardware/nvidia-de-optimizes-physx-for-the-cpu/8852?tag=nl.e539] . Obviamente, isso será subótimo para ...
Aproximação otimizada de baixa precisão para `rootn (x, n)`
rootn (float_t x, int_t n) é uma função que calcula on-ª raiz x1 / n e é suportado por algumas linguagens de programação comoOpenCL [https://www.khronos.org/registry/cl/sdk/1.2/docs/man/xhtml/rootn.html]. Quando números de ponto flutuante ...
Precisão C ++: String to Double
Estou tendo um problema com a precisão de um duplo depois de executar algumas operações em uma seqüência de caracteres convertida em duplo. #include <iostream> #include <sstream> #include <math.h> using namespace std; // conversion function void ...
Como limitar um número decimal? [duplicado]
Possível duplicado: Como formatar um decimal [https://stackoverflow.com/questions/697977/how-to-format-a-decimal] Como posso limitar meu número decimal para obter apenas 3 dígitos após o ponto? e.g 2.774
pandas: Dataframe.replace () com regex
Eu tenho uma tabela que se parece com isso: df_raw = pd.DataFrame(dict(A = pd.Series(['1.00','-1']), B = pd.Series(['1.0','-45.00','-']))) A B 0 1.00 1.0 1 -1 -45.00 2 NaN -Gostaria de substituir '-' para '0,00' usando dataframe.replace (), mas ...
Django, a divisão entre dois resultados anotados não será calculada corretamente
Estou tentando obter uma divisão entre dois resultados de anotação no conjunto de consultas. A impressão é muito maior que o clique, portanto, eu deveria ter o décimo decimal. def get_queryset(self): ...