Resultados de la búsqueda a petición "floating-point"
Solo muestre el punto decimal si el componente de coma flotante no es .00 sprintf / printf
Estoy formateando un número de coma flotante, pero quiero que aparezca como un número entero si no hay un número de coma flotante relevante. Es decir 1.20 -> 1.2x 1.78 -> 1.78x 0.80 -> 0.8x 2.00 -> 2xPuedo lograr esto con un poco de expresión ...
¿Cómo redondeo un flotador a un número específico de dígitos significativos en Ruby?
Sería bueno tener un equivalente de R signif [http://rss.acs.unt.edu/Rdoc/library/base/html/Round.html] función en Ruby. Por ejemplo >> (11.11).signif(1) 10 >> (22.22).signif(2) 22 >> (3.333).signif(2) 3.3 >> (4.4).signif(3) 4.4 # It's usually ...
¿Cómo comparar los valores de coma flotante en Scala?
Hasta donde sé, la comparación exacta no tiene mucho sentido con valores de coma flotante, ya que lo que se pretende que sea 0.0001 puede ser algo así como 0.0001000 ... 0001 ... ¿Debo implementar mi propia función de comparación ...
¿Qué significa el error de coma flotante -1. # J?
Recientemente, a veces (raramente) cuando exportamos datos desde nuestra aplicación, el registro de exportación contiene valores flotantes que se parecen a "-1. # J". No he podido reproducirlo, así que no sé cómo se ve el flotador en binario o ...
Extraña adición de cadenas numéricas en PHP
Estoy sumando dos cadenas numéricas $ a y $ b y luego comparando el resultado con otra cadena numérica $ c. Los tres números se almacenan como cadenas y PHP los convierte en flotantes en el paso de comparación. Por alguna razón, la prueba $ a ...
ValueError: no se pudo convertir la cadena en flotante: id
Estoy ejecutando el siguiente script de Python: #!/usr/bin/python import os,sys from scipy import stats import numpy as np f=open('data2.txt', 'r').readlines() N=len(f)-1 for i in range(0,N): w=f[i].split() l1=w[1:8] l2=w[8:15] list1=[float(x) ...
SQL Server Cálculo del tipo de datos flotante vs decimal
En la siguiente consulta declare @a float(23) declare @b float(23) declare @c float(53) set @a = 123456789012.1234 set @b = 1234567.12345678 set @c = @a * @b select @c select LTRIM(STR((@c),32,12)) declare @x decimal(16,4) declare @y ...
Leer flota de un archivo .txt
¿Cómo puedo leer flotantes de un archivo .txt? Dependiendo del nombre al comienzo de cada línea, quiero leer un número diferente de coordenadas. Los flotadores están separados por "espacio". Ejemplo:triangle 1.2 -2.4 3.0 El resultado debería ...
Lectura flota en una matriz
¿Cómo podría leer, digamos 10 flotadores y almacenarlos en una matriz sin desperdiciar memoria?
Float vs Decimal en ActiveRecord
A veces, los tipos de datos de Activerecord me confunden. Err, a menudo. Una de mis preguntas eternas es, para un caso dado, ¿Debo usar:decimal o:float? A menudo me he encontrado con este enlace,ActiveRecord:: decimal vs: ...