Wyniki wyszukiwania dla "precision"
Jak wygenerować ciąg n liczb całkowitych dodatnich, które sumują się do pewnej wartości?
Próbuję wygenerować tablicę liczb całkowitych, zawierającą liczby losowe sumujące się do określonej wartości. Oto mój kod:
Jak obliczyć cyfry dziesiętne precyzji na podstawie liczby bitów?
Uczę się o formatach zmiennoprzecinkowych (IEEE). W formacie zmiennoprzecinkowym o pojedynczej precyzji wspomniano, że mantysa ma 24 bity, a więc ma 6 1/2 dz...
Co oznacza „real * 8”?
Instrukcja programu napisanego w języku Fortran 90 mówi: „Wszystkie rzeczywiste zmienne i parametry są określone w 64-bitowej precyzji (tj.
Zachowanie dużych liczb
Próbuję odczytać plik CSV, który ma kody kreskowe w pierwszej kolumnie, ale gdy R pobiera go do pliku data.frame, konwertuje
Precyzja BigDecimal nie jest zachowywana z adnotacjami JPA
Korzystam z interfejsu API javax.persistence i Hibernate, aby tworzyć adnotacje i utrzymywać elementy i ich atrybuty w bazie danych Oracle 11g Express.Mam na...
różnice precyzji w matlab i c ++
Próbuję wykonać testy równoważności algorytmu napisanego w C ++ i Matlab. Algorytm zawiera pewien rodzaj pętli w czasie i działa ponad 1000 razy. Ma operacje...
OpenCL Precyzja zmiennoprzecinkowa
Znalazłem problem ze standardem float klienta-hosta w OpenCL. Problem polegał na tym, że punkty zmienne obliczane przez Opencl nie są w tych samych limitach ...