Resultados da pesquisa a pedido "precision"
Problema ao agendar tarefas usando a função clock ()
Eu gostaria de agendar tarefas em intervalos de tempo diferentes: a 0.1 seg, 0.9s .... 2s etc eu uso o clock () função C ++ que retorna o número de ticks des...
quantos números inteiros no IEEE 754
Estou tentando descobrir quantos números inteiros diferentes existem no ieee 754. O número que obtive foi 1778384895, mas não consegui encontrar nenhum recurso para me verificar. Muito obrigado antecipadamente.
Truncar um número de ponto flutuante sem arredondar para cima
Tenho um número de ponto flutuante que quero truncar para 3 lugares, mas não quero arredonda Por exemplo, converta1.0155555555555555 para1.015 (não1.016). Como eu faria isso em Ruby?
A precisão do Math.log2 mudou no Chrome
Eu escrevi um programa JavaScript que calcula a profundidade de uma árvore binária com base no número de elementos. Meu programa está funcionando bem há meses, mas recentemente descobri uma diferença quando a página da web é visualizada no Chrome ...
Por que esse cálculo de rolamentos é tão impreciso?
É mesmo assim impreciso? Reimplantei a coisa toda com precisão arbitrária do Apfloat e não fez diferença com a qual eu deveria saber! public static double bearing(LatLng latLng1, LatLng latLng2) { double deltaLong = toRadians(latLng2.longitude - ...
Ordem das operações para maximizar a precisão
Estou usando carros alegóricos para estas operações: Qual destes dois é mais preciso? (a * b) / cou (a / c) * bIsso importa ou depende da situação? Em caso afirmativo, qual devo escolher em que casos?
Definir precisão para um número flutuante em PHP
Eu recebo um número do banco de dados e esse número pode ser