Resultados da pesquisa a pedido "floating-point"
Convertendo float para um int (float2int) usando apenas manipulação bit a bit
Eu estou querendo saber se alguém poderia me colocar na direção certa com um problema que estou trabalhando. Eu estou tentando fazer o que a seguinte função ...
Números de ponto flutuante
Então estou lendo este tutorial em PDF chamado: "Learning Python Fourth Edition". Agora eu cheguei a uma parte que eu não entendo porque eu sou pra...
Como pode um 4 byte armazenar um valor tão grande de 3,4e38
Tal como acontece com 32 bits, só podemos armazenar dados de 2 ^ 32 bits. Em linguagem C, como podemos armazenar esse valor tão grande 3.4e38. Eu não consigo...
Testando a igualdade de ponto flutuante
Existe uma função para testar a igualdade aproximada de ponto flutuante em python? Algo como, def approx_equal(a, b, tol): return abs(a - b) < tolMeu caso de uso é semelhante a como a biblioteca de testes C ++ do Google, gtest.h, ...
conversão implícita float / int
Eu estou fazendo multiplicação e divisão defloatareiaintse esquecemos as regras de conversão implícitas (e as palavras na pergunta parecem vagas demais para pesquisar no Google mais rapidamente do que perguntar aqui). Se eu tiver doisints, mas ...
O que é overflow e underflow no ponto flutuante
Eu sinto que realmente não entendo o conceito deoverflow eunderflow. Estou fazendo esta pergunta para esclarecer isso. Eu preciso entender isso no seu nível mais básico com bits. Vamos trabalhar com a representação simplificada de ponto flutuante ...
Especificação do comportamento do ponto flutuante do Excel
Embora o Excel use o formato padrão IEEE754 binary64, ele não usa as mesmas regras para aritmética e comparações, por exemplo, =0.1+0.2=0.3RetornaTRUEede outros [https://stackoverflow.com/q/36452194/392585] ...