Resultados da pesquisa a pedido "floating-point"
Converter String para flutuar no Swift da Apple
Estou tentando converter números extraídos de um UITextField, que presumo, são realmente cadeias de caracteres e convertê-los em flutuante, para que eu possa multiplicá-los. Eu tenho doisUITextfields declarados da seguinte forma: @IBOutlet var ...
Algoritmo mais rápido para identificar o menor e o maior x que tornam a equação de dupla precisão x + a == b verdadeira
No contexto da análise estática, estou interessado em determinar os valores dex na ramificação então do condicional abaixo: double x; x = …; if (x + a == b) { …a eb pode-se considerar constantes de dupla precisão (generalizar para expressões ...
A formatação flutua em Python sem zeros supérfluos
Como formatar um flutuador para que não contenha os zeros restantes? Em outras palavras, quero que a sequência resultante seja o mais curta possível ..? Gostar: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 -> "3.14"
Adicionando dois números de ponto flutuante
Gostaria de calcular a soma, arredondada, de dois números IEEE 754 binary64. Para esse fim, escrevi o programa C99 abaixo: #include <stdio.h> #include <fenv.h> #pragma STDC FENV_ACCESS ON int main(int c, char *v[]){ fesetround(FE_UPWARD); ...
Qual é uma boa maneira de adicionar um grande número de pequenos carros alegóricos?
Digamos que você tenha 100000000 valores de ponto flutuante de 32 bits em uma matriz e cada um desses flutuadores tenha um valor entre 0,0 e 1,0. Se você tentasse resumir tudo assim result = 0.0; for (i = 0; i < 100000000; i++) { result += ...
Por que o Swift usa a base 2 para o expoente dos valores de ponto flutuante hexadecimal?
De acordo comA linguagem de programação rápida : Por exemplo, 0xFp2 representa 15 × 2 ^ 2, que é avaliado como 60. Da mesma forma, 0xFp-2 representa 15 × 2 ^ (- 2), que é avaliado como 3,75. Por que 2 é usado como base para o expoente em vez de ...
Como arredondar um número em JavaScript?
Enquanto trabalhava em um projeto, deparei-me com um script JS criado por um ex-funcionário que basicamente cria um relatório na forma de Name : Value Name2 : Value2etc. O problema é que, às vezes, os valores podem ser flutuadores (com ...
Como lidar com o excesso de precisão em cálculos de ponto flutuante?
Na minha simulação numérica, tenho um código semelhante ao seguinte trecho double x; do { x = /* some computation */; } while (x <= 0.0); /* some algorithm that requires x to be (precisely) larger than 0 */Com certos compiladores (por exemplo, ...
C converter ponto flutuante em int
estou a usarC(não C ++). Preciso converter um número flutuante em umint. Não quero arredondar para o número mais próximo, simplesmente quero eliminar o que está depois da parte inteira. Algo como 4.9 -> 4.9 -> 4
Compile o código c com float em vez de double
Eu tenho um longo esquema de integração numérica escrito em C. Eu gostaria de testar meu algoritmo com precisão de ponto flutuante. Existe uma maneira de dizer ao gcc para rebaixar cada ocorrência dedouble parafloat em todo o programa?