Resultados da pesquisa a pedido "floating-point"
TypeError: um float é obrigatório
Não é possível postar imagem, então:
A maioria do modo Pythonic para imprimir * no máximo * algum número de casas decimais [duplicado]
Esta questão já tem uma resposta aqui:Formatando flutuações em Python sem zeros supérfluos 15 respostasQuero formatar uma lista de números de ponto flutuante...
Como converter amostras pcm na matriz de bytes como números de ponto flutuante no intervalo de -1,0 a 1,0 e de volta?
O algoritmo de reamostragem que eu uso esperaflutuador array contendo amostras de entrada no intervalo-1,0 a 1,0 . Os dados de áudio são16 bits PCM com sampl...
Como calcular o número de dígitos após o ponto flutuante no iOS?
Como posso calcular o número de dígitos após o ponto flutuante no iOS?Por exemplo:3.105 deve retornar 33.0 deve retornar 02,2 deve retornar 1Atualizar: També...
Números desnormalizados - IEEE 754 Floating Point
Então, estou tentando aprender mais sobre os números desnormalizados, conforme definido no padrão IEEE 754 para números de ponto flutuante. Já li vários arti...
Usando iPhone / Objective C CGFloats: é 0.1 ok, ou deveria ser 0.1f?
Ao usar um método iPhone Objective C que aceita
sin, cos, tan e erro de arredondamento
Eu estou fazendo alguns cálculos de trigonometria em C / C ++ e estou correndo em problemas com erros de arredondamento. Por exemplo, no meu sistema Linux:
Por que o sqr escalar (x) SSE é mais lento que rsqrt (x) * x?
Eu tenho perfilado alguns dos nossos principais matemática em um Intel Core Duo, e ao olhar para várias abordagens para raiz quadrada eu notei algo estranho:...