Resultados da pesquisa a pedido "floating-point"
Como converter exponenciais para decimais em PHP
Eu tenho uma string como esta:
Existe alguma maneira de garantir que a aritmética de ponto flutuante resulte o mesmo tanto no Linux quanto no Windows?
Meu programa é executado tanto no Linux quanto no Windows, tenho que ter certeza de que a aritmética de ponto flutuante obtenha o mesmo resultado em um SO di...
erros de ponto flutuante ruby
Alguém pode explicar por que multiplicar por 100 aqui fornece um resultado menos preciso, mas multiplicar por 10 duas vezes fornece um resultado mais preciso? ± % sc Loading development environment (Rails 3.0.1) >> 129.95 * ...
Incompatibilidade de tipo de dados em fortran
Eu escrevi um algoritmo rudimentar em Fortran 95 para calcular o gradiente de uma função (um exemplo do qual é prescrito no código) usando diferenças centrai...
Representação binária de float em Python (bits não hexadecimais)
Como obter a string como representação binária IEEE 754 de um float de 32 bits?Exemplo1,00 -> '00111111100000000000000000000000'
PHP Converter String em Float / Double
Eu tenho lista de string (tamanho em bytes), eu li aqueles do arquivo. Vamos dizer que uma das seqüências de caracteres é 2968789218, mas quando eu convertê-...
Por que o sprintf de Perl não roda números de ponto flutuante corretamente?
Eu estava procurando a convenção de arredondamento usada pela função interna do Perlsprintf.Eu estava pensando que ele faz um arredondamento normal (por exem...