DeepSeek推出NSA机制提升长上下文训练与推理效率

2月18日，DeepSeek推出NSA（稀疏注意力机制），该机制与硬件高度兼容并支持本地训练，旨在加速长上下文的训练和推理。通过优化设计，NSA不仅加快了推理速度，还显著降低了预训练成本，且不影响模型性能。

官方测试显示，NSA在通用基准、长上下文任务及指令推理中表现优异，甚至优于完全注意力模型。