如图所示，小数点前的0都丢失了，程序在附件里，设置好路径和sheet号就可以读取了
2016-10-28 23:29
问大神门一个问题，我现在用单片机输出3位小数，为什么用LabVIEW读取总丢失数据，读不全，还会出现数据错误有什么好的办法能够避免数据丢失么？
2018-08-28 16:18
labview中数值的小数位精度问题：我现在有一个19.97十进制数值，在进行for循环，每循环一次减去一个不同的值，最后19.97变成0.01.再循环的时候跟0.01进行比较，我运行的结果却是相减后的0.01与我指定的0.01不相等，我把所有数值的
2018-11-21 11:53
请问,我用read from spreadsheet file读txt时,为什么只能读出整数部分,小数部分都丢失了?读xls文件时,又只能读出0 ?我的文件里都是带小数位的数, 该怎么读出来?
2015-02-09 03:47
用Verilog怎样将小数（例如0.2，-3.4之类的）转化为单精度浮点数？
2023-10-18 06:48
画图之后标注尺寸后边精度达到三位的小数点真的很烦人如何去掉 或者把小数点精度调到1位也成
2019-07-12 11:27
请教，AD导出为STEP或者DWG等格式给结构工程师做结构时反应，PCB板尺寸的单位精度会带有小数点比如在AD设置的是100mm，导出的尺寸会是100.255mm，会带有三位小数点，请问有什么办法可以设置成整数？
2018-12-24 11:27
分辨率，精度小数点后有效位有必然关系吗？我觉着没有吧，但是怎样提高精度呢？应该从那些方面入手，AD选型？运放选型？温漂控制？PCB布局等等，请大婶门呢给出一些系统的建议，这块学校的不是很透彻
2019-02-15 11:08
本人菜鸟，求大神帮忙解决：表格控件的输入是单精度数值，表格控件显示数据时，数值的小数部分显示的是6位小数，如何才能变成2位或者4位的呢？谢谢！
2015-08-28 21:00
大家好，sgl是单精度浮点数，用4个字节存储。DBL是双精度浮点数，用8个字节存储。给sgl控件赋值1.2345678，出来的是1.234567761421，想知道sgl数据和DBL数据保存的小数点后位数是怎么计算的
2016-07-29 11:23
