如图所示，小数点前的0都丢失了，程序在附件里，设置好路径和sheet号就可以读取了
2016-10-28 23:29
LABVIEW 保留小数精度与进制换算
2022-05-14 18:55
labview中数值的小数位精度问题：我现在有一个19.97十进制数值，在进行for循环，每循环一次减去一个不同的值，最后19.97变成0.01.再循环的时候跟0.01进行比较，我运行的结果却是相减后的0.01与我指定的0.01不相等，我把所有数值的
2018-11-21 11:53
在处理双精度数时，经常会涉及到拆分双精度数的整数和小数部分。有一下几种解决方案：一、解决这个问题我们首先想到的可能是通过几个取整函数，先求取整数部分，然后利用差值求取小数
2014-10-17 14:01
问大神门一个问题，我现在用单片机输出3位小数，为什么用LabVIEW读取总丢失数据，读不全，还会出现数据错误有什么好的办法能够避免数据丢失么？
2018-08-28 16:18
单片机AD转换，12位ADC，输入电压范围正负10V，可当输入7.8V，正常显示，输入7.9V，则显示8V，为什么会这样呢？电路完全按照数据手册上搭的没错，可就是精度问题没办法。我读取16位AD转换后的数据后加起来除以2^16乘以20，为啥精度会
2020-06-17 05:13
STM32单片机上的SRAM 中的数据丢失
2015-11-25 14:49
`在处理双精度数时，经常会涉及到拆分双精度数的整数和小数部分。有一下几种解决方案：一、解决这个问题我们首先想到的可能是通过几个取整函数，先求取整数部分，然后利用差值求取小数
2011-12-13 09:57
在处理双精度数时，经常会涉及到拆分双精度数的整数和小数部分。有一下几种解决方案：一、解决这个问题我们首先想到的可能是通过几个取整函数，先求取整数部分，然后利用差值求取小数
2014-11-21 14:22
python的小数数字对象，类似于浮点数，只不过小数数字有固定的位数和小数点。 python小数数字是有固定精度的
2023-03-10 10:04
