【7B开源模型Falcon Mamba登顶】 阿联酋阿布扎比技术创新研究所(TII)近日宣布，其开发的全新7B参数量级开源模型Falcon Mamba在性能上全面超越同级别模型，包括Llama-3.1(8B)、Mistral(7B)以及Falcon-2(11B)，成为当前性能最优秀的开源模型。Fal...

Falcon Mamba 7B，一款由阿联酋阿布扎比技术创新研究所开发的开源模型，近日在处理任意长序列任务上取得突破性进展。通过摒弃传统的Transformer架构，采用创新的Mamba状态空间语言模型，Falcon Mamba 7B实现了计算效率的显著提升，其处理无限长序列的能力，且内存需求不增，...