跳到正文
AI 编辑审核科技与数字产业

E-Gaborformer:严格因果语音识别器,流式内存恒定

arXiv cs.LG (Machine Learning) RSS Feed · Nir Krakowski, Tamir Cohen, Ohad Zohar, Chen Zarfati · Readzer 发布时间

摘要

一篇新的 arXiv 论文提出 E-Gaborformer,一种严格因果编码器,结合 Gated DeltaNet-2 循环层、滑动窗口注意力和固定因果 Gabor 原子。在生产规模下,其流式状态恒定约为每次调用 19 MB,而相同规模的因果注意力编码器在十分钟后累积超过 1 GB。基于它构建的 0.6B 参数希伯来语和英语流式 transducer,在英语语音代理流量上比 NVIDIA Nemotron 3.5 ASR Streaming 的 WER 低 28–31%,比之前系统的希伯来语 WER 低最多 20%,并通过两类 RNN-T 格公式实现 2.6 倍更快的训练。

这里提供经过审核的摘要。完整内容请前往原文阅读。

载入阅读状态…

各行业推荐理由

  • 科技与数字产业

    与软件和数字基础设施相关:提出一种内存恒定且 WER 更低的语音识别架构,直接影响语音代理系统和流式 ASR 部署。