The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"Выпуск Python-библиотеки для научных вычислений NumPy 1.17.0"
Версия для распечатки Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Исходное сообщение [ Отслеживать ]
Отдельный RSS теперь доступен для каждого обсуждения в форуме и каждого минипортала.
. "Выпуск Python-библиотеки для научных вычислений NumPy 1.17.0" +/
Сообщение от n80 (?), 01-Авг-19, 01:48 
Только вот на вход в Decimal лучше строку подавать (кавычки добавить), а не float, а то будет двойное преобразование (сначала при разборе скрипта будет преобразование из десятичной записи в питоновский float, который соответствует сишному double, потом из этого float в структуру внутри объекта типа Decimal), потеря точности и боль-отчаяние. См.:

In [2]: import decimal

In [3]: decimal.Decimal(7500.42)
Out[3]: Decimal('7500.420000000000072759576141834259033203125')

In [4]: decimal.Decimal('7500.42')
Out[4]: Decimal('7500.42')

Ответить | Правка | Наверх | Cообщить модератору

Оглавление
Выпуск Python-библиотеки для научных вычислений NumPy 1.17.0, opennews, 30-Июл-19, 10:03  [смотреть все]
Форумы | Темы | Пред. тема | След. тема



Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру