python精度最高的类型谈谈关于Python里面小数点精度控制的问题

基础

浮点数是用机器上浮点数的本机双精度(64 bit)表示的。提供大约17位的精度和范围从-308到308的指数。和C语言里面的double类型相同。Python不支持32bit的单精度浮点数。如果程序需要精确控制区间和数字精度&＃xff0c;可以考虑使用numpy扩展库。

Python 3.X对于浮点数默认的是提供17位数字的精度。

关于单精度和双精度的通俗解释&＃xff1a;

单精度型和双精度型&＃xff0c;其类型说明符为float 单精度说明符&＃xff0c;double 双精度说明符。在Turbo C中单精度型占4个字节&＃xff08;32位&＃xff09;内存空间&＃xff0c;其数值范围为3.4E-38&＃xff5e;3.4E&＃43;38&＃xff0c;只能提供七位有效数字。双精度型占8 个字节&＃xff08;64位&＃xff09;内存空间&＃xff0c;其数值范围为1.7E-308&＃xff5e;1.7E&＃43;308&＃xff0c;可提供16位有效数字。

要求较小的精度

将精度高的浮点数转换成精度低的浮点数。

1.round()内置方法

这个是使用最多的&＃xff0c;刚看了round()的使用解释&＃xff0c;也不是很容易懂。round()不是简单的四舍五入的处理方式。

For the built-in types supporting round(), values are rounded to the closest multiple of 10 to the power minus ndigits; if two multiples are equally close, rounding is done toward the even choice (so, for example, both round(0.5) and round(-0.5) are 0, and round(1.5) is 2).

>>> round(2.5)

2

>>> round(1.5)

2

>>> round(2.675)

3

>>> round(2.675, 2)

2.67

round()如果只有一个数作为参数&＃xff0c;不指定位数的时候&＃xff0c;返回的是一个整数&＃xff0c;而且是最靠近的整数&＃xff08;这点上类似四舍五入&＃xff09;。但是当出现.5的时候&＃xff0c;两边的距离都一样&＃xff0c;round()取靠近的偶数&＃xff0c;这就是为什么round(2.5) &＃61; 2。当指定取舍的小数点位数的时候&＃xff0c;一般情况也是使用四舍五入的规则&＃xff0c;但是碰到.5的这样情况&＃xff0c;如果要取舍的位数前的小树是奇数&＃xff0c;则直接舍弃&＃xff0c;如果偶数这向上取舍。看下面的示例&＃xff1a;

>>> round(2.635, 2)

2.63

>>> round(2.645, 2)

2.65

>>> round(2.655, 2)

2.65

>>> round(2.665, 2)

2.67

>>> round(2.675, 2)

2.67

2. 使用格式化

效果和round&＃xff08;&＃xff09;是一样的。

>>> a &＃61; ("%.2f" % 2.635)

>>> a

"2.63"

>>> a &＃61; ("%.2f" % 2.645)

>>> a

"2.65"

>>> a &＃61; int(2.5)

>>> a

2

要求超过17位的精度分析

python默认的是17位小数的精度&＃xff0c;但是这里有一个问题&＃xff0c;就是当我们的计算需要使用更高的精度&＃xff08;超过17位小数&＃xff09;的时候该怎么做呢&＃xff1f;

1. 使用格式化(不推荐)

>>> a &＃61; "%.30f" % (1/3)

>>> a

"0.333333333333333314829616256247"

可以显示&＃xff0c;但是不准确&＃xff0c;后面的数字往往没有意义。

2. 高精度使用decimal模块&＃xff0c;配合getcontext

>>> from decimal import *

>>> print(getcontext())

Context(prec&＃61;28, rounding&＃61;ROUND_HALF_EVEN, Emin&＃61;-999999, Emax&＃61;999999, capitals&＃61;1, clamp&＃61;0, flags&＃61;[], traps&＃61;[InvalidOperation, DivisionByZero, Overflow])

>>> getcontext().prec &＃61; 50

>>> b &＃61; Decimal(1)/Decimal(3)

>>> b

Decimal("0.33333333333333333333333333333333333333333333333333")

>>> c &＃61; Decimal(1)/Decimal(17)

>>> c

Decimal("0.058823529411764705882352941176470588235294117647059")

>>> float(c)

0.058823529411764705

默认的context的精度是28位&＃xff0c;可以设置为50位甚至更高&＃xff0c;都可以。这样在分析复杂的浮点数的时候&＃xff0c;可以有更高的自己可以控制的精度。其实可以留意下context里面的这rounding&＃61;ROUND_HALF_EVEN 参数。ROUND_HALF_EVEN&＃xff0c; 当half的时候&＃xff0c;靠近even.

关于小数和取整

既然说到小数&＃xff0c;就必然要说到整数。一般取整会用到这些函数&＃xff1a;

1. round()

这个不说了&＃xff0c;前面已经讲过了。一定要注意它不是简单的四舍五入&＃xff0c;而是ROUND_HALF_EVEN的策略。

2. math模块的ceil(x)

取大于或者等于x的最小整数。

3. math模块的floor(x)

去小于或者等于x的最大整数。

>>> from math import ceil, floor

>>> round(2.5)

2

>>> ceil(2.5)

3

>>> floor(2.5)

2

>>> round(2.3)

2

>>> ceil(2.3)

3

>>> floor(2.3)

2

>>>

【Python】关于Python里面小数点精度控制的问题

基础 浮点数是用机器上浮点数的本机双精度(64 bit)表示的.提供大约17位的精度和范围从-308到308的指数.和C语言里面的double类型相同.Python不支持32bit的单精度浮点数.如果 ...

【我要学python】愣头青之小数点精度控制

写在最前面:今天遇到了棘手的问题,看了两遍才看懂,本文属于转载&＃43;修改,原出处是Herbert"s Blog 基础 浮点数是用机器上浮点数的本机双精度(64 bit)表示的.提供大约17位的精度和范围从 ...

Poj 2350 Above Average&＃xff08;精度控制&＃xff09;

一.Description It is said that 90% of frosh expect to be above average in their class. You are to pro ...

Python numpy 浮点数精度问题

Python numpy 浮点数精度问题 在复现FP(fictitious play, Iterative solution of games by fictitious play-page393)算 ...

Python学习--04条件控制与循环结构

Python学习--04条件控制与循环结构 条件控制 在Python程序中,用if语句实现条件控制. 语法格式: if <条件判断1>: <执行1> elif <条件判断 ...

python基础之条件控制与循环

Python3 条件控制 Python条件语句是通过一条或多条语句的执行结果(True或者False)来决定执行的代码块. 计算机之所以能做很多自动化的任务,因为它可以自己做条件判断. 比如,输入用户 ...

C++ 数据类型及相关问题 及输出精度控制

1.有哪些数据类型? 2.数据类型在不同的编译器会有不同的位宽,如何得知? 使用如下命令: cout<

POI使用&＃xff1a;用poi接口不区分xls/xlsx格式解析Excel文档(41种日期格式解析方法&＃xff0c;5种公式结果类型解析方法&＃xff0c;3种常用数值类型精度控制办法)

一.使用poi解析excel文档 注:全部采用poi接口进行解析,不需要区分xls.xlsx格式,不需要判断文档类型. poi中的日期格式判断仅支持欧美日期习惯,对国内的日期格式并不支持判断,怎么办? ...

随机推荐

cf591d

题意:给出船的最大速度v,起点,终点.风在前t秒是一个方向,t秒后就一直是第二个方向.两个方向已知. 船速永远大于风速.问船在自由掌握速度和行驶方向的情况下,最快多久到终点. 分析:首先排除一种方法, ...

python类的特性

#encoding&＃61;utf-8 class Province: #静态字段 memo &＃61; "这里是静态变量" def __init__(self,name,capital,leader,flag): ...

JavaWeb学习总结&＃xff08;十五&＃xff09;--过滤器的应用

一.解决全站字符乱码(post和get中文编码问题) 乱码问题: 获取请求参数中的乱码问题: POST请求:request.setCharacterEncoding("utf-8" ...

解决了IE8不支持数组的indexOf方法

ie在过去给我们添了很多坑. if (!Array.prototype.indexOf) { Array.prototype.indexOf &＃61; function(elt /*, from*/ ) { ...

Linux指令--wc

Linux系统中的wc(Word Count)命令的功能为统计指定文件中的字节数.字数.行数,并将统计结果显示输出. 1&＃xff0e;命令格式: wc [选项]文件... 2&＃xff0e;命令功能: 统计指定文件中的字节数. ...

Entity framework 绑定到Datagridview的添加删除修改

Entity framework 绑定到Datagridview的添加删除修改 using System; using System.Collections.Generic; using System ...

Ubuntu下录制和制作Gif图片--实战版

1.背景 ubuntu下,写文章的时候,经常用到Gif图片,这个自己怎么制作呢? 网上查了一下资料,大致的流程就是:安装 录屏软件(kazam) 和 视频 转 Jpeg 的工具(mplayer) ,使 ...

orleans发送广播消息

一个client发送消息给orleans, 就只需要掉用Grain的函数就行了. 但是有时候Grain需要发送消息给client, 在orleans里面, 就只能通过Observer来实现. publ ...

php ldap添加与修改

/** * ldap 备份 * &＃64;param int $cardid * &＃64;param string $username * &＃64;param string $password 未加密密码 * &＃64;retu ...

dd命令的conv=fsync,oflag=sync/dsync

conv的参数有 1.sync Pad every input block to size of "ibs" with trailing zero bytes. When used with "blo ...