QString::number(data/100.0,'f',2)精度不够
时间: 2024-02-25 17:52:29 浏览: 68
sql server中的decimal或者numeric的精度问题
如果你想要更高的精度,你可以尝试使用QString::setNum()函数,并将它的第二个参数设置为'g',如下所示:
```cpp
QString str = QString::number(data/100.0, 'g', 16);
```
这将使用科学计数法来表示数字,并且保留16位有效数字,从而提高精度。你也可以根据需要调整有效数字的位数。
阅读全文