Resultados da pesquisa a pedido "floating-point"
omportamento estranho ao converter um float para int em C #
Tenho o seguinte código simples: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1 e speed2 devem ter o mesmo valor, mas, na verdade, tenho: speed1 = 61 speed2 = 62 Eu sei que provavelmente deveria usar ...
Como implementar a divisão de ponto flutuante em binário sem hardware de divisão e sem hardware de ponto flutuante
Quero saber como implementar a divisão de ponto flutuante de precisão única IEEE-754 de 32 bits em binário sem hardware de divisão e sem hardware de ponto flutuante? enho hardware que muda, adiciona, subtrai e multiplic Eu já implementei ...
Android / SQLite: salvando / recuperando dados do tipo REAL
Eu tenho um SQLDB com tabela de campo REAL. No meu layout, configurei o tamanho do campo para permitir apenas 8 + 2 dígitos. No meu objeto, usei o tipo de dados do campo como "float". qs[0] = "CREATE TABLE " + RELATION_TABLE_NAME + "(id TEXT ...
Usando carros alegóricos com sprintf () em C @ incorpora
Caras, eu quero saber sefloatariáveis @ podem ser usadas emsprintf() função. Como, se escrevermos: sprintf(str,"adc_read = %d \n",adc_read);Ondeadc_read é uma variável inteira, ele armazenará a string "adc_read = 1023 \n" dentrostr ...
lutuante / precisão dupla nos modos de depuração / liberaç
s operações de ponto flutuante C # / .NET diferem na precisão entre o modo de depuração e o modo de liberaçã
Como verificar dependências de carros alegóricos
Quero determinar (em c ++) se um número flutuante é o inverso multiplicativo de outro número flutuante. O problema é que eu tenho que usar uma terceira variável para fazer isso. Por exemplo, este código: float x=5,y=0.2; if(x==(1/y)) ...
Convert flutuar para dobrar sem perder precisão
Eu tenho um float primitivo e preciso como um dobro primitivo. Simplesmente lançar a bóia para o dobro me dá uma precisão extra estranha. Por exemplo float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35 ...
Trata-se de uma comparação flutuante válida que representa um número definido de casas decimai
Estou escrevendo um método de extensão para comparar dois carros alegóricos usando um número definido de pontos decimais (números significativos) para determinar se são iguais em vez de uma diferença de tolerância ou porcentagem. Examinando as ...
or que o cálculo e a conversão flutuantes mostram resultados diferentes na configuração de depuração e lançament
Este é realmente um bug estranho para mim e demorei muito tempo para descobrir o que estava acontecendo. Para simplificar e reproduzir, basta criar um aplicativo de console win32 vazio usando o VS2005 e use este código no método principal: float ...
Por que alterar 0,1f para 0 diminui o desempenho em 10x?
Por que esse código, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, ...