• 发文章

  • 发资料

  • 发帖

  • 提问

  • 发视频

创作活动
0
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
返回

电子发烧友 电子发烧友

  • 全文搜索
    • 全文搜索
    • 标题搜索
  • 全部时间
    • 全部时间
    • 1小时内
    • 1天内
    • 1周内
    • 1个月内
  • 默认排序
    • 默认排序
    • 按时间排序
大家还在搜
  • Xilinx INT8 优化开发嵌入式视觉

    赛灵思 INT8 优化为使用深度学习推断和传统计算机视觉功能的嵌入式视觉应用提供最优异的性能和能效最出色的计算方法。与其他 FPGA/DSP 架构相比,赛灵思的集成 DSP 架构在 INT8 深度学习运算上能实现 1.75 倍的性能优势。

    2017-09-22 17:27

  • 小白必读:到底什么是FP32、FP16、INT8

    网上关于算力的文章,如果提到某个芯片或某个智算中心的算力,都会写:在FP32精度下,英伟达H100的算力大约为0.9PFlops。在FP16精度下,某智算中心的算力是6.7EFlops。在INT8

    2025-10-20 14:34 颖脉Imgtec 企业号

  • 计算精度对比:FP64、FP32、FP16、TF32、BF16、int8

    、BF16、int8以及混合精度等。本文将浅显易懂地介绍这些精度计算方式及其差别。什么是精度?精度,是数据表示的一个重要参数,它决定了数据的准确性。在计算机科学中,精

    2025-06-26 11:09 颖脉Imgtec 企业号

  • 你真的能区别int(1)和int(10)的应用?

    我们知道在mysql中 int占4个字节,那么对于无符号的int,最大值是2^32-1 = 4294967295,将近40亿,难道用了int(1),就不能达到这个最大值吗?

    2023-12-06 14:43

  • 总结FasterTransformer Encoder(BERT)的cuda相关优化技巧

    FasterTransformer BERT 包含优化的 BERT 模型、高效的 FasterTransformer 和 INT8 量化推理。

    2023-01-30 09:34

  • 如何使用8位单片机对16位INT型数据进行操作

    8位单片机中没有16位数的操作指令,所有的int型数据都要通过两个字节分开操作,使用的方法不用,生成的代码也不相同,当然效率也不一样,通过指针对16位数进行操作可以得到高效的代码。

    2019-06-30 10:29

  • AI芯片算力比较

    因浮点运算对性能要求较高,在保证AI精度的同时可将浮点数转为整数进行计算,可大幅降低计算资源的消耗,提高计算性能,可分为INT8, INT4, INT16,INT32,

    2022-03-18 11:25

  • 超越YOLOv8!YOLO-NAS:下一代目标检测基础模型

    总而言之,YOLO-NAS达成目标检测任务新高度,取得了最佳的精度-延迟均衡。值得一提,YOLO-NAS与TensorRT推理引擎完全兼容,且支持INT8量化,达成前所未有的运行时性能。

    2023-05-15 15:31

  • 8051单片机int字节的实现

    在使用单片机中,unsigned int 占2个字节,unsigned char 占一个字节。而单片机是实行的字节寻址。16字节的bit寻址实在是不好用.

    2019-09-07 10:17

  • STM32开发板实验箱8位独立按键测试学习

    1、畅学STM32核心板2、 配套STM32主芯片 F103C8T6STM32F103C8T6芯片基于ARM

    2018-04-30 15:21