Результаты поиска по запросу "floating-point"
Значимые цифры в десятичном модуле
Поэтому я решил попытаться решить домашнее задание по физике, написав несколько скриптов на python, чтобы решить проблемы для меня. Одна проблема, с которой я сталкиваюсь, заключается в том, что значимые цифры не всегда выглядят ...
Получить «кусочки» поплавка в Python?
Я ищу Python эквивалент JavaFloat.floatToBits. я нашел этоPython: получить и манипулировать (в виде целых чисел) битовых шаблонов с плавающей ...
Формат плавает с помощью стандартного модуля JSON
Я использую стандартмодуль JSON [http://docs.python.org/library/json.html]в Python 2.6 для сериализации списка поплавков. Тем не менее, я получаю результаты, как это: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) ...
Две очень похожие функции с участием sin () демонстрируют совершенно разную производительность - почему?
Рассмотрим следующие две программы, которые выполняют одни и те же вычисления двумя различными способами: // v1.c #include <stdio.h> #include <math.h> int main(void) { int i, j; int nbr_values = 8192; int n_iter = 100000; float x; for (j = 0; j ...
Нейтральный элемент для min () и max () в сокращении OpenCL
Я делаю сокращение (нахождение минимума и максимума)float[] массив на GPU через OpenCL. Я загружаю некоторые элементы изglobal память вlocal память для каждой рабочей группы. Когда глобальный размер не кратен размеру рабочей группы, я ...
Изменить тип объекта Mat с CV_32F на CV_8U
Я попытался отобразить изображение типа CV_32F с помощью функции imshow, но оно показалоБелое изображение, вДокументация [http://docs.opencv.org/modules/highgui/doc/user_interface.html]учитывая, что изображения с плавающей запятой будут ...
результат с плавающей точкой является неточным [дубликат]
Возможный дубликат: Беда с поплавками в Objective-C [https://stackoverflow.com/questions/1193554/trouble-with-floats-in-objective-c] Это может звучать для вас как основная проблема, но я пытаюсь разобраться с этим в течение 2 дней. Я искал ...
Почему деление на ноль в стандарте IEEE754 приводит к бесконечному значению?
Мне просто любопытно, почему вIEEE-754 любое ненулевое число с плавающей точкой, деленное на ноль, приводит к бесконечному значению? Это чепуха с математической точки зрения. Поэтому я считаю, что правильным результатом этой операции является ...
Точность поплавка с определенными числами
Следующее значение дает мне неправильную точность. Это наблюдается только с конкретными цифрами. Это может быть проблема с плавающим представлением, но хотелось узнать конкретную причину. String m = "154572.49"; //"154,572.49"; Float f = ...
Лучший способ разобрать поплавок?
Какой лучший способ разобрать поплавок в CSharp? Я знаю о TryParse, но особенно меня интересуют точки, запятые и т. Д. У меня проблемы с моим сайтом. На моем сервере разработчика, ',' для десятичных дробей, '.' для разделителя. На сервере prod ...