• 发文章

  • 发资料

  • 发帖

  • 提问

  • 发视频

创作活动
0
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
返回

电子发烧友 电子发烧友

  • 全文搜索
    • 全文搜索
    • 标题搜索
  • 全部时间
    • 全部时间
    • 1小时内
    • 1天内
    • 1周内
    • 1个月内
  • 默认排序
    • 默认排序
    • 按时间排序
大家还在搜
  • c语言单精度和双精度的区别

    表明单精度和双精度精确的范围不一样,单精度,也即float,一般在计算机中存储占用4字节,也32位,有效位数为7位;双精度(double)在计算机中存储占用8字节,64

    2018-01-12 13:39

  • java单精度和双精度的区别

    Java语言的浮点类型有两种不同的表示形式:十进制数和科学计数法。十进制数形式,由数字和小数点组成,必须有小数点,如0.123、12.85、26.98等;科学计数法形式,如:2.1E5、3.7e-2等。其中e或E之前必须

    2018-01-12 14:05

  • 什么是单精度和双精度_单精度和双精度浮点数表示方法

    在计算机里实数中的浮点数是以科学计数法存储,所以在存储和读取的时候需要考虑精度的问题,但是,由于数据的使用需要,也会有不同精度的需要,例如存储身高信息和存储卫星的飞行信息要求的精度必要是不一样的

    2018-01-12 13:54

  • Python如何精确控制区间和数字精度

    基础 浮点数是用机器上浮点数的本机双精度(64 bit)表示的。 提供大约17位的精度 和范围从-308到308的指数。和C语言里面的double类型相同。Python不支持32bit的单精度浮点数

    2020-10-29 12:05

  • 西门子PLC读取的仪表数据(浮点数)如何转换为整数

    看到一个网友的问题,西门子200PLC采用MODBUS RTU协议采集多功能仪表的数据,接收的数据均是32位的单精度浮点数,我怎么在PLC程序里面实现单精度浮点数与十进制之间的转换?问题的配图如下。

    2023-06-01 10:18

  • 复合放大器实现高精度的高输出驱动能力 获得最佳的性能

    要开发的应用似乎不存在解决方案是很正常的,甚至几乎是情理之中的。为了满足应用要求,我们需要想出一种超出市场上现有产品性能的解决方案。例如,应用可能需要具有高速、高电压、高输出驱动能力的放大器,同时还可能要求出色的直流精度、低噪声、低失真等。

    2019-11-25 16:39

  • NVIDIA RTX 5000 Ada显卡性能实测报告

    单精度浮点运算性能是显卡一项重要的指标,很多计算都是使用单精度来完成的。从测试结果来看 RTX 5000 Ada 的性能达到了 63.1T,而 RTX A5000 只有 30.5T。由此, RTX 5000 Ada 单精度

    2023-12-21 15:58

  • 16位定点数字信号处理编程是怎么思考的

    通常情况下单精度浮点在小数点后的精度为1/(2^23),理论上使用32位定点IQ24就可以覆盖单精度浮点的精度问题,但是在16bit上,使用i1.q15的方法来算,仅有

    2023-02-08 15:11

  • Xilinx怎么定点数转浮点数

    转化为的浮点数可以是单精度也可以是双精度

    2018-07-05 08:09

  • 32bit的浮点格式

    EE标准754规定了三种浮点数格式:单精度、双精度、扩展精度。前两者正好对应C语言里头的float、double或者FORTRAN里头的real、double精度类型。

    2023-07-29 16:42