本文作者:心灵探险家

谷歌推出 AI 架构 Transformer 新方法:突破长文本处理,

谷歌推出 AI 架构 Transformer 新方法:突破长文本处理,摘要: 前人栽树后人乘凉随着游戏行业的进步新作品往往或多或少会以同类型经典当做灵感来源进行创作有的后起之秀甚至可以超越前辈获得巨大的成功日前论坛玩家发起讨论有哪款游戏能真正干掉前辈之家月日...

前人栽树后人乘凉,随着游戏行业的进步,新作品往往或多或少会以同类型经典当做灵感来源进行创作,有的后起之秀甚至可以超越前辈获得巨大的成功。日前,Reddit论坛玩家发起讨论“有哪款游戏能真正干掉前辈?

谷歌推出 AI 架构 Transformer 新方法:突破长文本处理,

IT之家 10 月 9 日消息,科技媒体 marktechpost 昨日(10 月 8 日)发布博文,报道称谷歌公司推出了选择性注意力(Selective Attention)方法,可以提高 Tran ormer 架构模型的性能。

Tran ormer 是一种革命性的神经网络架构,由谷歌在 2017 年提出,主要用于处理序列数据,特别是在自然语言处理(NLP)领域。

Tran ormer 的核心是自注意力机制,允许模型在处理输入序列时捕捉词与词之间的关系,让模型能够关注输入序列中的所有部分,而不仅仅是局部信息。

Tran ormer 由多个编码器和解码器组成。编码器负责理解输入数据,而解码器则生成输出。多头自注意力机制使模型能够并行处理信息,提高了效率和准确性。

Tran ormer 架构的一大挑战是它们在处理长文本序列时效率低下,由于每个标记与序列中的每个其他标记都相互作用导致二次复杂度,这就导致随着上下文长度的增加,计算和内存需求呈指数增长。

现在 这一问题的方法包括稀疏注意力机制(s rse tention mechanis ),它限制了标记之间的交互数量,以及通过总结过去信息来减少序列长度的上下文压缩技术。

不过这种方法是通过减少在注意力机制中考虑的标记数量达成的,因此通常以性能为代价,可能会导致上下文关键信息丢失。

谷歌研究的研究人员提出了一种名为选择性注意的新方法,可以动态忽略不再相关的标记,从而提高 Tran ormer 模型的效率。

选择性注意力使用软掩码矩阵来确定每个标记对未来标记的重要性,减少对不重要标记的关注。

研究表明,配备选择性注意的 Tran ormer 架构模型在多个自然语言处理任务中表现出色,同时显著降低了内存使用和计算成本。

例如,在拥有 1 亿参数的 Tran ormer 模型中,注意力模块的内存需求在上下文大小为 512、1024 和 2048 个 tokens 时分别减少至 1/16、1/25 和 1/47。所提方法在 HellaSwag 基准 中也优于传统 Tran ormer,对于较大的模型规模实现了高达 5% 的准确率提升。

选择性注意力允许构建更小、更 的模型,在不损害准确性的情况下,显著减少内存需求。

IT之家附上参考地址

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

阅读
分享