Resultados da pesquisa a pedido "floating-point"
Como verificar se um valor é um número inteiro em Javascript (o caso especial 1.0 deve ser flutuante)
Estou escrevendo algumas funções de verificação de tipo. Eu quero: isIntegerisFloatEnquanto escrevia isInteger, notei que isInteger (1.0) retorna true. Eu quero que isso retorne falso. Minha função é assim: function isInteger(value) { return ...
Evitando valores anormais em C ++
Depois de pesquisar muito tempo por um bug de desempenho, li sobre valores de ponto flutuante não-normais. Aparentemente, os valores de ponto flutuante desnormalizados podem ser uma grande preocupação de desempenho, conforme ilustrado nesta ...
Zeros à esquerda extras ao imprimir float usando printf?
Eu gostaria de poder escrever uma sequência de tempo parecida com esta:1:04:02.1 hours usando printf. Quando tento escrever algo como isto: printf("%d:%02d:%02.1f hours\n", 1, 4, 2.123456);Eu recebo: 1:04:2.1 hoursÉ possível adicionar zeros à ...
como definir precisão numpy ponto flutuante?
Eu apenas calculei o mesmo número de duas maneiras, mas numpy, isso comete um erro [[ 0.910221324013388510820732335560023784637451171875]] [[-0.9102213240133882887761274105287156999111175537109375]]esse número é o mesmo até e ^ (- 15), mas ...
Regras práticas para minimizar erros de ponto flutuante em C?
Em relação à minimização do erro nas operações de ponto flutuante, se eu tiver uma operação como a seguinte em C: float a = 123.456; float b = 456.789; float r = 0.12345; a = a - (r * b);O resultado do cálculo será alterado se eu dividir as ...
Os padrões de bits dos NaNs são realmente dependentes de hardware?
Eu estava lendo sobre valores de NaN de ponto flutuante na especificação da linguagem Java (eu sou chato). Um de 32 bitsfloat tem este formato de bit: seee eeee emmm mmmm mmmm mmmm mmmm mmmms é o bit do sinal,e são os bits do expoente em são os ...
Como calcular funções trigonométricas corretamente arredondadas em graus?
Como eu poderia definir funções trigonométricas que recebem argumentos em graus em vez dos radianos usuais e calcular resultados arredondados corretamente para esses argumentos? Multiplicando o argumento porM_PI/180.0 antes de passá-lo para a ...
Expressões aritméticas do BASH
Eu tinha usado várias maneiras de fazer uma aritmética inteira simples no BASH (3.2). Mas não consigo descobrir a melhor maneira (preferida) de fazê-lo. result=`expr 1 + 2` result=$(( 1 + 2 )) let "result = 1 + 2"Quais são as diferenças ...
Alguém pode explicar esse comportamento estranho com carros alegóricos assinados em c #?
Aqui está o exemplo com comentários: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before ...
Tipos de ponto flutuante de tamanho fixo
Nostdint.h (C99)boost / cstdint.hpp [http://www.boost.org/doc/libs/1_42_0/libs/integer/doc/html/boost_integer/cstdint.html] ecstdint (C ++ 0x), há, entre outros, o tipoint32_t. Existem tipos semelhantes de ponto flutuante de tamanho fixo? ...