Resultados da pesquisa a pedido "floating-accuracy"
Cálculo do tipo de dados Float do SQL Server vs decimal
Na consulta a seguir declare @a float(23) declare @b float(23) declare @c float(53) set @a = 123456789012.1234 set @b = 1234567.12345678 set @c = @a * @b select @c select LTRIM(STR((@c),32,12)) declare @x decimal(16,4) declare @y decimal(16,8) ...
Como verificar dependências de carros alegóricos
Quero determinar (em c ++) se um número flutuante é o inverso multiplicativo de outro número flutuante. O problema é que eu tenho que usar uma terceira variável para fazer isso. Por exemplo, este código: float x=5,y=0.2; if(x==(1/y)) ...
Por que esses números não são iguais?
O código a seguir está obviamente errado. Qual é o problema i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
Como fazer um inteiro log2 () em C +
Nas bibliotecas padrão C ++, encontrei apenas um método de log de ponto flutuante. Agora eu uso o log para encontrar o nível de um índice em uma árvore binária floor(2log(index))). Code (C ++): int targetlevel = int(log(index)/log(2)); Receio ...