Результаты поиска по запросу "floating-point"

2 ответа

Найдите поплавок чуть ниже значения

Скажем, у меня есть число с плавающей запятой X. Я хочу найти наибольшее число, которое меньше X и может быть сохранено без потерь в поплавке.IIRC стандарт I...

2 ответа

Некорректное округление числа с плавающей запятой при использовании ToString («F1»)

1 ответ

битовое представление двойного числа

ТОП публикаций

6 ответов

C # Math.Pow () не работает

2 ответа

Lua - упаковка чисел с плавающей точкой одинарной точности IEEE754

Я хочу сделать функцию в чистом Lua, которая генерируетдоля (23 бита),показатель степени (8 бит) изнак (1 бит) от числа, так что число приблизительно равно

6 ответов

Значимые цифры в десятичном модуле

Так что я'Я решил попытаться решить мою домашнюю работу по физике, написав несколько скриптов на python, чтобы решить проблемы для меня. Одна проблема, к...

2 ответа

Получить «кусочки» поплавка в Python?

Я ищу Python эквивалент Java.

4 ответа

Форматирование с плавающей точкой в C ++

Как вы форматируете число с плавающей точкой в C ++ для вывода с округлением в два знака после запятой? Я'мне не повезло с

2 ответа

Две очень похожие функции с участием sin () демонстрируют совершенно разную производительность - почему?

Рассмотрим следующие две программы, которые выполняют одни и те же вычисления двумя различными способами:

1 ответ

Нейтральный элемент для min () и max () в сокращении OpenCL

я делаю сокращение (нахождение минимума и максимума)