Resultados da pesquisa a pedido "floating-point"
O que significa o erro de ponto flutuante -1. # J significa?
Recentemente, às vezes (raramente) quando exportamos dados de nosso aplicativo, o log de exportação contém valores flutuantes que se parecem com "-1. # J". Não consegui reproduzi-lo, por isso não sei como é o flutuador em binário ou como o Visual ...
Cálculo do tipo de dados Float do SQL Server vs decimal
Na consulta a seguir declare @a float(23) declare @b float(23) declare @c float(53) set @a = 123456789012.1234 set @b = 1234567.12345678 set @c = @a * @b select @c select LTRIM(STR((@c),32,12)) declare @x decimal(16,4) declare @y decimal(16,8) ...
ValueError: não foi possível converter a string em float: id
Estou executando o seguinte script python: #!/usr/bin/python import os,sys from scipy import stats import numpy as np f=open('data2.txt', 'r').readlines() N=len(f)-1 for i in range(0,N): w=f[i].split() l1=w[1:8] l2=w[8:15] list1=[float(x) for x ...
Leia flutuações de um arquivo .txt
Como posso ler carros alegóricos de um arquivo .txt. Dependendo do nome no início de cada linha, quero ler um número diferente de coordenadas. Os carros alegóricos são separados por "espaço". Exemplo:triangle 1.2 -2.4 3.0 O resultado deve ...
dição estranha de cadeias numéricas no P
Estou adicionando duas strings numéricas $ a e $ be comparando o resultado com outra string numérica $ c. Todos os três números são armazenados como seqüências de caracteres e são convertidos em flutuantes pelo PHP na etapa de comparaçã or ...
A leitura flutua em uma matriz
Como pude ler, digamos, 10 carros alegóricos e armazená-los em uma matriz sem desperdiçar memóri
Float vs Decimal no ActiveRecord
Às vezes, os tipos de dados do Activerecord me confundem. Erre, frequentemente. Uma das minhas perguntas eternas é, para um determinado caso, Devo usar:decimal ou:float? Muitas vezes me deparei com este link,ActiveRecord:: decimal vs: ...
adicionando os componentes de um registro SSE
Quero adicionar os quatro componentes de um registro SSE para obter um único flutuador. É assim que faço agora: float a[4]; _mm_storeu_ps(a, foo128); float x = a[0] + a[1] + a[2] + a[3]; Existe uma instrução SSE que alcança isso diretament
Se todos os bits forem 0, qual é o valor do ponto flutuante IEE
Se todos os bits forem 0 (exemplo Imemset a variável de ponto flutuante para todos os 0), qual é o valor do ponto flutuante IEEE usado em gcc? É garantido que seja 0,0? Acho que para outros formatos de ponto flutuante, o resultado pode variar. ...
Formatando um duplo e não arredondando
Preciso formatar (enã arredondar) adouble com duas casas decimais. Tentei com: String s1 = "10.126"; Double f1 = Double.parseDouble(s1); DecimalFormat df = new DecimalFormat(".00"); System.out.println("f1"+df.format(f1));Resultado 10.13Mas eu ...