Resultados da pesquisa a pedido "floating-point"
Flutuar para binário
Estou tentando converter um número de ponto flutuante em representação binária; como posso conseguir isso? Meu objetivo, no entanto, não deve ser limitado por 2m, portanto, espero algo que possa ser facilmente estendido a qualquer base (3, 4, 8) ...
TypeError em cálculos com valores de entrada do usuário
Sei que isso foi respondido, mas eu sou um super noob. Eu sei que tem a ver com homem / mulher ser uma string, mas eu pensei que tinha definido? Como posso fazer o cálculo funcionar? num = int(input('Please enter number of standard drinks ...
Por que Int (Float (Int.max)) me deu um erro?
Eu observei algo realmente estranho. Se você executar esse código no Swift: Int(Float(Int.max))Falha com a mensagem de erro: erro fatal: o valor flutuante não pode ser convertido em Int porque o resultado seria maior que Int.max Isso é ...
Python: Convertendo string em número decimal
Eu tenho uma lista python com seqüências de caracteres neste formato: A1 = [' "29.0" ',' "65.2" ',' "75.2" ']Como converter essas seqüências de caracteres em números decimais para executar operações aritméticas nos elementos da lista?
Como inverter o expoente de um duplo (por exemplo, 1e300-> 1e-300)?
Estou interessado em escrever um programa C rápido que vire o expoente de um duplo. Por exemplo, este programa deve converter 1e300 em 1e-300. Eu acho que a melhor maneira seria algumas operações pouco, mas me falta conhecimento suficiente para ...
O valor máximo pode ser armazenado no Java float com precisão de dois dígitos (precisão de 2 dígitos)?
Como eu poderia encontrar no máximo dois valores de precisão decimal que podem ser armazenados no float? Pelo meu entendimento, no float de 32 bits, temos 24 (23 + 1) para armazenar o número excluindo o expoente. é 2 ^ 24 é o valor máximo que ...
Qual é a razão intuitiva que NaN! = NaN?
Pelo que pude encontrar, o IEEE define NaN para não se igualar no sistema de números de ponto flutuante. A única vez que tive que comparar NaN com NaN é comparar entradas de quadro de dados; nesse caso, essa propriedade de NaN é realmente um ...
Que tipo de aplicativo da web pode ser afetado realisticamente pelo bug flutuante?
Existe uma maneira fácil de bloquear totalmente uma grande quantidade de JVM: class runhang { public static void main(String[] args) { System.out.println("Test:"); double d = Double.parseDouble("2.2250738585072012e-308"); ...
Como preencher a saída de ponto flutuante do Fortran com zeros à esquerda?
Eu tenho alguns números de ponto flutuante que preciso gerar de um programa Fortran. Digamos que o número máximo possa ser 999.9999 e todos sejam não negativos. Preciso de preenchimento zero na frente de todos os números menores que 100. Por ...
Defina a precisão de exibição de um flutuador no Ruby
É possível definir a precisão de exibição de um flutuador no Ruby? Algo como: z = 1/3 z.to_s #=> 0.33333333333333 z.to_s(3) #=> 0.333 z.to_s(5) #=> 0.33333Ou eu tenho que substituir oto_s método deFloat?