Вопросы с меткой [decimal]

2 голоса

1 ответ

88 показов

Есть текстовый файл с данными такого вида: -7.271467826427747 17.84 -7.238717596285217 17.83 -7.203784017466519 17.82 -7.171033787323988 17.81 -7.138283557181459 17.80 -7....

5 голосов

3 ответа

319 показов

Для обыкновенного математического округления приходится задействовать сторонний модуль и 2 функции: from decimal import Decimal, ROUND_HALF_UP d = Decimal(5.445).quantize(Decimal("1.00"), ...

0 голосов

1 ответ

110 показов

Я пробую сложить числа наподобие 0,7 и 1/3: print(Decimal(0.7)+Decimal(1/3)) но при сложении этих чисел выводит 1.033333333333333288924412348. Как это исправить, если я не могу использовать ...

0 голосов

1 ответ

196 показов

Необходимо получить число с 20 знаками после запятой. пользуюсь функцией Math.Pow(), но она работает только с double. Существует ли функция, которая возведет e в степень 3.3746289746352617283? Если ...

-2 голоса

2 ответа

450 показов

Умельцы, помогите. Есть текстовый файл с такими строками (в общем там около 50 000 строк): "name1": 1735166787988, "name2": 602, "name1": 2276332667410, "name2":...

0 голосов

1 ответ

775 показов

Я храню значение в базе как int64 и оперирую int64, а не float, перемножаю на 100 и округляю до ближайшего. Но насколько я понял, при расчете налогов когда идет перемножение/деление я теряю цент, а ...

0 голосов

1 ответ

112 показов

Есть вот такая строка: <string name="measure">%1$.1f</string> Пытаюсь получить значение формата 1.11 из Float у которого может быть более чем 2 знака после запятой. Получаю ...

-1 голос

1 ответ

134 показа

Я торгую в паре с биткоином и хочу через binance api python реализовать продажу токенов по лесенкой: Цена покупки 0,00002750 Цель 1 (+10%) - 3025 Цель 2 (+20%) - 3300 Цель 3 (+30%) - 3575 Цель 4 (+40%...

0 голосов

1 ответ

676 показов

Создали следующую структуру для хранения больших чисел: typedef enum { L_BITS, //младшие биты M_BITS, //средние H_BITS, //старшие S_BITS, //16-23 бит под экспаненту 31 под знак ALL_BITS } ...

0 голосов

0 ответов

69 показов

ffmpeg -i /var/www/data/www/1.mp4 -ss 5 -t 30 -vf cropdetect -f null - 2>&1 | awk '/crop/ { print $NF }' | tail -1 На выходе получаю crop=640:480:0:50 Вопрос в том, возможно ли получить кроп ...

0 голосов

0 ответов

208 показов

Создаю графический калькулятор на PyQt5. Есть класс Figure_2D, который отвечает за решение арифметических функций. Функция зависит от входных данных и что нужно найти. К примеру: для поиска сторон ...

0 голосов

2 ответа

510 показов

я новичек, возникла проблема, уже весь мозг сломался. На входе у меня есть список: ['3', '+', '0.34', '-', '3', '*', '0.051651', '/', '7', '+', '1.201E+3'] На выходне мне нужно получить запись ...

0 голосов

0 ответов

497 показов

Пытаюсь подсчитать сумму максимальной возрастающей подпоследовательности из дробных чисел, взодные данные выглядят примерно так: 62.956673602019 7.707514622586 Использую вот такой код: #в конец ...

-1 голос

1 ответ

151 показ

Инфо: Есть сайт-фронт на реакте, с сайтом-бэком на джанго. При оформлении заказа сваливается 500 с ошибкой InvalidOperation at /api/orders/ [<class 'decimal.InvalidOperation'>] Дополнительна ...

0 голосов

1 ответ

77 показов

Есть список чисел наподобие: 9.76e-05 Нужно получить в таком формате: 0.00009760 Пытался сделать так: float('{:f}'.format(9.76e-05)) Но выходит: 9.8e-05 Как получить число наподобие ...