rnn

Mamba 是最近最火的模型之一，更是被业内认为可以有取代 Transformer 的潜力。今天介绍的这篇文章，探索了 Mamba 模型在时间序列预测任务上是否有效。本文首先给大家介绍 Mamba 的基础原理，再结合这篇文章探索在时间序列预测场景下 Mamba 是否有效。Mamba 模型是一种基于深…

在大模型内卷的同时，transformer的地位也接连受到挑战。 近日，RWKV发布了Eagle 7B模型，基于最新的RWKV-v5架构。 Eagle 7B在多语言基准测试中脱颖而出，在英语测试中与顶尖模型不相上下。 同时，Eagle 7B用的是RNN架构，相比于同尺寸的Transformer模型，…