Mysql 乘法除法精度不一致问题(除法后四位小数)

Mysql 乘法除法精度不一致问题乘法除法精度不一致问题(除法后四位小数除法后四位小数)

主要介绍了Mysql 乘法除法精度不一致，除法后四位小数,本文通过问题分析实例代码讲解，给大家介绍的非常

详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下

问题问题

今天在写项目功能的时候，有一个统计金额的情况，然后需要进行单位转换，所以写下了大概如下功能的语句，但得到的数据

为小数点后4位精度，正常我们只需要2位就足够。

select total_fee / 100 from orders

继续排查寻找资料，进行精度转换，找了一圈的资料都不太满意，继续进行测试

并且在3/4台设备上运行，不同mysql版本环境都是这样子的结果。

所以初步得知 Mysql中，乘法和除法对小数点后的精度不一致

在国内的论坛中没有找到合适的资料，于是到国外论坛寻找，提问，交流。

答案答案

首先感谢其他前辈对问题的解答和指点，我们也将尽量详细地记录问题的排查。

文明之所以能延续，是因为它们有记忆。希望文章也能帮到更多的朋友。

除法的精度默认是小数点后4位

乘法的精度使用 操作数的精度和 的方式来判断，如例子中的 1*0.01 精度分别是小数点后0位和2位，那么就是 0+2 =2

结果也将使用2位精度

测试

DECIMAL的参数可以百度看这个，基本创建过表结构的都能明白。

@x和@y就是除数和被除数。

同时我还提出疑问，是否能在mysql里设置默认除法精度，我们就可以不用每次sql都使用函数计算了。

前辈回复：如果你不想有时候出现出乎意料的情况，那么需要每次都强制使用类型转换。

mysql相关说明文献相关说明文献

https://dev.mysql.com/doc/refman/8.0/en/arithmetic-functions.html

In division performed with /, the scale of the result when using two exact-value operands is the scale of the first

operand plus the value of the div_precision_increment system variable (which is 4 by default). For example, the

result of the expression 5.05 / 0.014 has a scale of six decimal places (360.714286).

除法的精度规则除法的精度规则