• 发文章

  • 发资料

  • 发帖

  • 提问

  • 发视频

创作活动
0
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
返回

电子发烧友 电子发烧友

  • 全文搜索
    • 全文搜索
    • 标题搜索
  • 全部时间
    • 全部时间
    • 1小时内
    • 1天内
    • 1周内
    • 1个月内
  • 默认排序
    • 默认排序
    • 按时间排序
大家还在搜
  • 为什么要有attention机制,Attention原理

    没有attention机制的encoder-decoder结构通常把encoder的最后一个状态作为decoder的输入(可能作为初始化,也可能作为每一时刻的输入),但是encoder的state

    2019-03-06 14:11

  • 一种不同于双线性插值的上采样方法

    我们可以看到,该网络将传统的非线性插值替换成 DUpsample,同时在 feature fuse 方面,不同于之前方法将 Decoder 中的特征上采样与 Encoder 特征融合,本工作将 Encoder 中的特征下采样与 Decoder 融合,大大减少了计算

    2019-04-08 14:47

  • 一种新型的DETR轻量化模型Focus-DETR

    作者对多个 DETR 类检测器的 GFLOPs 和时延进行了对比分析,如图 1 所示。从图中发现,在 Deformable-DETR 和 DINO 中,encoder 的计算量分别是 decoder

    2023-08-02 15:34

  • 知识点:SOC设计质量相关的规范

    module name需要包含一定的功能展现,什么意思呢,比如要设计address remap,你就叫XXX_addr_remap或者XXX_addr_decoder

    2023-10-17 11:36

  • RKNanoC嵌入式芯片参数介绍

    Single-core Cortex-M3 Built-in Multi-format audio decoder Built-in Power Management Low power consumption

    2019-10-24 16:40

  • 聊聊SOC设计质量相关的规范

    module name需要包含一定的功能展现,什么意思呢,比如要设计address remap,你就叫XXX_addr_remap或者XXX_addr_decoder

    2023-10-20 09:52

  • RKNanoD嵌入式芯片参数介绍

    Dual-core Cortex-M3 Built-in 1M Byte SRAM Multi-format audio decoder 192kHz/24-bit audio codec WiFi connectivity Low power consumption

    2019-10-23 10:44

  • DeepMind的最新研究结合了神经网络和随机过程的优点提出神经过程模型

    neural process的实现示意图。圆圈中的变量对应于(a)中图模型的变量,方框中的变量表示NP的中间表示,粗体字母表示以下计算模块:h - encoder, a - aggregator和g - decoder。在我们的实现中,h和g对应于神经网络,a对应于均值函数。实线表示生成过程,虚线表示推理过程。

    2018-07-09 09:04

  • 大模型的Scaling Law的概念和推导

    对于Decoder-only的模型,计算量(Flops), 模型参数量, 数据大小(token数),三者满足:。(推导见本文最后) 模型的最终性能主要与计算量,模型参数量和数据大小三者相关,而与模型的具体结构(层数/深度/宽度)基本无关。

    2023-11-29 14:28

  • RNN基本原理和RNN种类与实例

    这是一个delay模型,经过一段延迟,即把所有输入都读取后,在decoder中获取输入并输出一个序列。这个模型在机器翻译中使用较广泛,源语言输在入放入encoder,浓缩在状态信息中,生成目标语言时,可以生成一个不长度的目标语言序列。

    2018-07-27 17:22