Sakana AI推出Transformer²模型，突破LLM限制，引领动态推理新时代

Sakana AI近日发布了名为Transformer²的创新自适应语言模型。该模型无需微调，通过两步动态权重调整机制，在推理过程中动态学习并适应新任务，这标志着LLM技术的重要进展。Transformer²的核心在于其独特的动态权重调整，通过奇异值分解（SVD）与数学技巧，实时优化性能。

测试显示，Transformer²在数学、编码、推理和视觉问答等任务中表现优于LoRA模型，且参数更少。该模型还具有知识迁移能力，应用潜力广泛。Sakana AI公开了Transformer²组件的训练代码，推动了LLM推理时定制技术的发展。Transformer²与Google Titans等技术共同改变了LLM的应用方式，为更广泛领域的高效、个性化AI工具奠定了基础。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！