Resultados de la búsqueda a petición "floating-point"
Es una comparación flotante válida que representa un número determinado de decimales?
Estoy escribiendo un método de extensión para comparar dos flotantes usando un número establecido de puntos decimales (cifras significativas) para determinar si son iguales en lugar de una tolerancia o una diferencia porcentual. Mirando a través ...
¿Por qué el cálculo flotante y la conversión muestran resultados diferentes en la configuración de depuración y liberación?
Esto es realmente un error extraño para mí y me llevó mucho tiempo descubrir qué está pasando. Para simplificar las cosas y reproducirlas, simplemente cree una aplicación de consola win32 vacía usando VS2005 y use este código en el método ...
¿Por qué cambiar 0.1f a 0 ralentiza el rendimiento en 10x?
¿Por qué este código? const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, ...
Punto flotante desnormalizado en Objective-C?
¿Cuál es la relevancia de la pregunta / respuesta Stack Overflow ¿Por qué cambiar 0.1f a 0 ralentiza el rendimiento en 10x? [https://stackoverflow.com/a/9314926/8047] para Objective-C? Si hay alguna relevancia, ¿cómo debería esto cambiar mis ...
Range Reduction Pobre precisión para punto flotante de precisión simple
stoy tratando de implementar la reducción de rango como el primer paso para implementar la función senoidal. Estoy siguiendo el método descrito en el documento "REDUCCIÓN DE ARGUMENTOS PARA ARGUMENTOS ENORMES" por K.C. ...
Objective-C - Cómo aumentar la precisión de un número flotante
¿Puede alguien mostrarme la forma de establecer la precisión de un número flotante a la longitud deseada? Digamos que tengo un número 2504.6. Como puede ver, la precisión aquí es solo 1. Quiero establecerlo en seis. Lo necesito porque comparo ...
Explique este comportamiento de coma flotante
Por favor explique por qué los siguientes fragmentos de código se comportan de manera diferente. #include<stdio.h> int main(){ float a=0.1; if(a<0.1) printf("less"); else printf("greater than equal"); getchar(); }Output:greater than ...
Calcule la unidad en último lugar (ULP) para dobles
Does .NET tiene un método incorporado para calcular el ULP [https://en.wikipedia.org/wiki/Unit_in_the_last_place] de un doble o flotante dado? Si no, ¿cuál es la forma más eficiente de hacerlo?
Operación del módulo de punto flotante
Estoy intentando implementar la operación de reducción de rango para trigonometría. Pero en cambio, creo que sería mejor realizar una operación de módulo pi / 2 en los datos entrantes. Me preguntaba qué algoritmos existen y son eficientes para ...
¿Por qué estos números no son iguales?
El siguiente código es obviamente incorrecto. ¿Cuál es el problema i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15