Resultados da pesquisa a pedido "floating-point"
Como ler um caractere de cada vez em um arquivo em python?
Quero ler uma lista de números de um arquivo como caracteres, um caractere de cada vez, para verificar o que é esse caractere, seja um dígito, um período, um + ou -, um e ou E, ou algum outro caractere. ..e, em seguida, execute qualquer operação ...
como os números de ponto flutuante são armazenados na memória [fechado]
como o computador entende apenas zeros e zeros abaixo, como números de ponto flutuante como 12.1234 são representados na memória como um conjunto de zeros e zeros, é armazenado pelos respectivos valores ASCII de 1, 2,. 1,2,3,4 respectivamente ..?
flutua menor que FLT_MIN. por que FLT_TRUE_MIN?
Em uma tentativa de ver o que aconteceria no caso de um fluxo insuficiente de flutuação, descobri que era possível tornar os números de flutuação muito menores que FLT_MIN. Estou usando o xcode 5.1 no OS 10.9. O dialeto do idioma ...
A multiplicação é sempre comutativa na aritmética inexata do ponto flutuante?
Estou tentando entender algum código no tempo de execução da linguagem D. Parece que existem funções separadas para as duas coisas seguintes: array1[] += scalar * array2[]; array1[] += array2[] * scalar;Por que isso não pode ser feito com uma ...
Como você encontra o valor não igual mais próximo de um float? [duplicado]
Esta pergunta já tem uma resposta aqui: Como alterar um flutuador pelo menor incremento (ou próximo a ele)? [/questions/155378/how-to-alter-a-float-by-its-smallest-increment-or-close-to-it] 7 respostasA float (também conhecido como único) é um ...
Como encontro o valor de hash de um vetor 3D?
Estou tentando executar a detecção de colisão de fase ampla com uma abordagem de tamanho de grade fixa. Portanto, para a posição de cada entidade: (x, y, z) (cada um do tipo float), preciso descobrir em qual célula a entidade se encontra. ...
Precisão fracionária do flutuador
Quantos locais de precisão umfloat tem entre1.0f e0.0f tal que todo valor possa ser representado exclusivamente? Por exemplo, se o primeiro número fracionáriofloat não poderia representar0.13f a resposta seria que um flutuador tinha apenas 1 ...
Verifique se a flutuação está próxima de qualquer flutuação armazenada na matriz
Preciso verificar se um determinado flutuador está próximo, dentro de uma determinada tolerância, dequalquer carro alegórico em uma matriz de carros alegóricos. import numpy as np # My float a = 0.27 # The tolerance t = 0.01 # Array of floats ...
Como o JavaScript determina o número de dígitos a serem produzidos ao formatar valores de ponto flutuante?
Em JavaScript, todo mundo conhece o famoso cálculo:0.1 + 0.2 = 0.30000000000000004. Mas por que o JavaScript imprime esse valor em vez de imprimir de maneira mais precisa e precisa0.300000000000000044408920985006?
Comparação de números de ponto flutuante do Python
Estou apenas revisando alguns conceitos básicos do Python e há um problema complicado sobre a comparação de números de ponto flutuante. 2.2 * 3.0 == 6.6 3.3 * 2.0 == 6.6Eu pensei que ambos deveriam retornar um falso. No entanto, o segundo me deu ...