Python浮点数运算为什么会产生误差?解决方法看这里

在python中,浮点数的运算是会经常遇到的 。但是有很多小伙伴发现无论是加减乘除还是取余取幂都是一样,它都不会精确地计算出结果,总会差那么一点点 。那么本文就将说明python浮点数运算产生误差的原因和解决方法,一起往下看看吧 。

Python浮点数运算为什么会产生误差?解决方法看这里

文章插图
一、浮点数运算误差原因
在计算机的世界和语言之中,浮点数存在一个很普遍的问题 。就是它并不能准确地表示十进制的数,因为计算机的语言是二进制的,它只识别0和1 。一个0和1就表示一个字节,像是一个整数10换算成二进制就是1010,等于是$2^3 + 2^1$ 。
而python中的浮点数大多数是float型的,也就是单精度浮点数,有32位字节 。如果浮点数之间进行计算的话就是在2的32次方中找到最接近的那个结果,所以才会出现0.1+0.2得出0.30000000000004这样子的结果 。
二、浮点数误差解决方法
Python既然有浮点数数误差,那么自然也就会相对应的解决方法 。在python中有一个模块叫做decimal,它是使用整数原则构建decimal.Decimal对象 。简单来说,它就是把任意类型的数字转为十进制的格式进行运行,就像一个人拿着笔在写一样,示例如下:
from decimal import Decimalprint(Decimal('0.1') + Decimal('0.2'))print(Decimal('8.7') / Decimal('10'))print(Decimal('0.8') - Decimal('0.4'))0.30.870.4【Python浮点数运算为什么会产生误差?解决方法看这里】以上就是关于“Python浮点数运算为什么会产生误差?解决方法看这里”的全部内容了,希望对你有所帮助 。

    推荐阅读