AI前沿：AI的超能力——更长记忆、更快速度、更强思考

最近的AI研究聚焦于大模型的瓶颈，发布了六篇重要论文，涉及上下文处理、推理加速、知识引用、增强推理、持续学习和数据优化。Infinite heap通过模块化分层减支技术和位置编码改进，实现了300万token的超长记忆和近19倍的推理速度提升。CopySpec利用投机复制粘贴加速生成文本，Self-Cite则解决了大模型的自监督引用生成。其他论文如Square增强了模型的思维链和Square则解决了灾难性遗忘问题，提高了模型的数据利用率和持续学习能力。