作者：周月醉 | 来源：互联网 | 2023-10-11 11:45
float数值类型用于表示单精度浮点数值,而double数值类型用于表示双精度浮点数值,float和double
都是浮点型,而decimal是定点型。
浮点型和定点型可以用类型名称后加(m,d)来表示,m表示该值的总共长度,d表示小数点后面的长度,m和D又称为精度和标度。
float和double在不指定精度时,默认会按照实际的精度来显示,而decimal在不指定精度时,默认整数为10,小数为0。
有精度和标度:
结果说明:
c是decimal类型,对比输入和输出,发现decimal采用的是四舍五入
对比a和b的输入和输出,发现float和double采用的是四舍六入五成双
四舍六入五成双:
无精度和标度:
结果说明:
a和b的数据正确插入,而c被截断了
浮点数float、double如果不写精度和标度,则会按照实际显示
decimal不写精度和标度,小数点后面的会进行四舍五入
从上面sum的结果可以看出 float、double会存在精度问题,decimal精度正常的
结果要求比较精准的建议使用decimal。
京公网安备 11010802041100号