Python中的Decimal使用及說明
1.可以傳遞給Decimal整型或者字符串參數(shù)
但不能是浮點(diǎn)數(shù)據(jù),因?yàn)楦↑c(diǎn)數(shù)據(jù)本身就不準(zhǔn)確。
# coding=utf-8
from decimal import Decimal, getcontext
# 1.可以傳遞給Decimal整型或者字符串參數(shù),但不能是浮點(diǎn)數(shù)據(jù),因?yàn)楦↑c(diǎn)數(shù)據(jù)本身就不準(zhǔn)確。
# 傳入浮點(diǎn)數(shù) 5.55
a = Decimal(5.55)
print('a = ', a)
a = a * 100
print('a = ', a)
# 傳入字符串 ‘5.55'
b = Decimal('5.55')*100
print('b = ', b)
>>> a = 5.54999999999999982236431605997495353221893310546875
>>> a = 554.9999999999999822364316060
>>> b = 555.00
2.要從浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換為Decimal類型
# 2.要從浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換為Decimal類型
c = Decimal.from_float(22.222)
print('c = ', c)
>>> c = 22.22200000000000130739863379858434200286865234375
3.getcontext().prec設(shè)置有效數(shù)字的個(gè)數(shù)
# 3.getcontext().prec設(shè)置有效數(shù)字的個(gè)數(shù)。
# 通過設(shè)定有效數(shù)字,限定結(jié)果樣式
getcontext().prec = 4
x1 = Decimal(1) / Decimal(3) # 結(jié)果為Decimal('0.3333'),四個(gè)有效數(shù)字
print('x1 = ', x1)
x2 = Decimal(100) / Decimal(3)
print('x2 = ', x2)
x3 = Decimal(700000)/Decimal(9)
print('x3 = ', x3)
>>> x1 = 0.3333
>>> x2 = 33.33
>>> x3 = 7.778E+4
# 注意:
# 如果prec的長度比數(shù)字的長度小的時(shí)候,*100得出的數(shù)就不對(duì)了
num = '88.8888'
f = Decimal(num)
print('f = ', f)
g = f * 100
print('g = ', g)
h = Decimal('999.999')
print('h = ', h)
>>> f = 88.8888
>>> g = 8889
>>> h = 999.999
4.四舍五入,保留幾位小數(shù)
# 4.四舍五入,保留幾位小數(shù)
d = Decimal('50.5679').quantize(Decimal('0.00'))
print('d = ', d) # 結(jié)果為Decimal('50.57'),結(jié)果四舍五入保留了兩位小數(shù)
>>> d = 50.57
5.Decimal 結(jié)果轉(zhuǎn)化為string
# 5.Decimal 結(jié)果轉(zhuǎn)化為string
e = str(Decimal('3.40').quantize(Decimal('0.0')))
print('e = ', e)
>>> e = 3.4
6.decimal模塊進(jìn)行十進(jìn)制數(shù)學(xué)計(jì)算
# 6.decimal模塊進(jìn)行十進(jìn)制數(shù)學(xué)計(jì)算
i = Decimal('4.20') + Decimal('2.10') + Decimal('6.30')
print('i = ', i)
>>> i = 12.60
# 當(dāng)然精度提升的同時(shí),肯定帶來的是性能的損失。在對(duì)數(shù)據(jù)要求特別精確的場合(例如財(cái)務(wù)結(jié)算),這些性能的損失是值得的。
# 但是如果是大規(guī)模的科學(xué)計(jì)算,就需要考慮運(yùn)行效率了。畢竟原生的float比Decimal對(duì)象肯定是要快很多的。
7.python decimal.quantize()參數(shù)
rounding的各參數(shù)解釋與行為
ROUND_CEILING (towards Infinity), ROUND_DOWN (towards zero), ROUND_FLOOR (towards -Infinity), ROUND_HALF_DOWN (to nearest with ties going towards zero), ROUND_HALF_EVEN (to nearest with ties going to nearest even integer), ROUND_HALF_UP (to nearest with ties going away from zero), or ROUND_UP (away from zero). ROUND_05UP (away from zero if last digit after rounding towards zero would have been 0 or 5; otherwise towards zero)
x = Decimal('-3.1415926535') + Decimal('-2.7182818285')
print x
print x.quantize(Decimal('1.0000'), ROUND_HALF_EVEN)
print x.quantize(Decimal('1.0000'), ROUND_HALF_DOWN)
print x.quantize(Decimal('1.0000'), ROUND_CEILING)
print x.quantize(Decimal('1.0000'), ROUND_FLOOR)
print x.quantize(Decimal('1.0000'), ROUND_UP)
print x.quantize(Decimal('1.0000'), ROUND_DOWN)
output:
-5.8598744820
-5.8599
-5.8599
-5.8598
-5.8599
-5.8599
-5.8598
https://www.cnblogs.com/piperck/p/5843253.html
https://blog.csdn.net/weixin_37989267/article/details/79473706
- ROUND_HALF_EVENT 和 ROUND_HALF_DOWN:EVENT是quansize的默認(rèn)設(shè)置值,可以通過getcontext()得到,EVENT四舍五入進(jìn)了一位,DOWN為接近最近的0進(jìn)了一位。
- ROUND_CEILING 和 ROUND_FLOOR:CEILING超過5沒有進(jìn)位是因?yàn)樗鼉A向正無窮,F(xiàn)LOOR為了總是變得更小所以進(jìn)了一位。
- ROUND_UP 和 ROUND_DOWN:UP始終進(jìn)位,DOWN始終不會(huì)進(jìn)位。
總結(jié)
其實(shí)這里我們通過上面一組例子可以發(fā)現(xiàn),正數(shù)的行為非??深A(yù)期也非常簡單,負(fù)數(shù)的情況稍復(fù)雜,有些函數(shù)就是設(shè)計(jì)為負(fù)數(shù)在某些情況中使用的。
正數(shù)中無法重現(xiàn)的ROUND_DOWN和ROUND_FLOOR的區(qū)別,ROUND_DOWN是無論后面是否大于5都不會(huì)管保持原狀,而Floor在正數(shù)中的行為也是如此,
但是在負(fù)數(shù)中為了傾向無窮小,所以無論是否大于5,他都會(huì)變得更小而進(jìn)位。
反而ROUND_UP和ROUND_DOWN的行為是最可預(yù)期的,那就是無論后面數(shù)大小,UP就進(jìn)位,DOWN就始終不進(jìn)位。
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
python 實(shí)現(xiàn)對(duì)文件夾內(nèi)的文件排序編號(hào)
下面小編就為大家分享一篇python 實(shí)現(xiàn)對(duì)文件夾內(nèi)的文件排序編號(hào),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-04-04
Python實(shí)現(xiàn)通過解析域名獲取ip地址的方法分析
這篇文章主要介紹了Python實(shí)現(xiàn)通過解析域名獲取ip地址的方法,結(jié)合實(shí)例形式總結(jié)分析了兩種比較常見的解析域名對(duì)應(yīng)IP地址相關(guān)操作技巧,需要的朋友可以參考下2019-05-05
100行python代碼實(shí)現(xiàn)跳一跳輔助程序
這篇文章主要介紹了100行代碼實(shí)現(xiàn)跳一跳輔助程序,接下來要分享的是用“純軟件”的方法來玩“跳一跳”。本人只做過Android開發(fā),因此下面只給出Android平臺(tái)下的實(shí)現(xiàn)方法。需要的朋友可以參考下2018-01-01
Python異步編程中asyncio.gather的并發(fā)控制詳解
在Python異步編程生態(tài)中,asyncio.gather是并發(fā)任務(wù)調(diào)度的核心工具,本文將通過實(shí)際場景和代碼示例,展示如何結(jié)合信號(hào)量機(jī)制實(shí)現(xiàn)精準(zhǔn)并發(fā)控制,希望對(duì)大家有所幫助2025-03-03
python 自動(dòng)監(jiān)控最新郵件并讀取的操作
這篇文章主要介紹了python 自動(dòng)監(jiān)控最新郵件并讀取的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-03-03
Python打印詳細(xì)報(bào)錯(cuò)日志logging問題
這篇文章主要介紹了Python打印詳細(xì)報(bào)錯(cuò)日志logging問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-09-09
Python自動(dòng)化測試pytest中fixtureAPI簡單說明
這篇文章主要為大家介紹了Python自動(dòng)化測試pytest中fixtureAPI的簡單說明,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步2021-10-10
pycharm運(yùn)行OpenCV項(xiàng)目踩坑記錄
本文主要介紹了在PyCharm中運(yùn)行OpenCV項(xiàng)目時(shí)遇到的問題及其解決方法,具有一定的參考價(jià)值,感興趣的可以了解一下2025-03-03

