(资料图片仅供参考)
10月20日消息,今日,记忆张量(MemTensor)正式发布并开源记忆原生基础模型MemT 1.0系列,包括MemT-1.0-Flash和MemT-1.0-Nano两款模型。根据官方公布的测试结果,该系列模型在11项记忆基准中位列同类方法前两名,长历史场景下端到端推理速度最高提升近4倍。
据介绍,MemT 1.0采用可训练的内部记忆模块,将历史信息与任务经验写入固定大小的记忆状态,后续任务可直接调用,无需反复输入完整历史文本。模型基于340亿Token训练语料,通过两个阶段分别学习记忆写入和记忆调用能力。
性能方面,在11项记忆基准测试中,MemT-1.0-Flash平均得分50.6分,MemT-1.0-Nano平均得分47.0分,分别位列参数化记忆方法第一、第二。
效率方面,在128K历史长度下,MemT 1.0端到端推理速度提升约1.86倍;在256K历史长度下提升约3.99倍,查询首字延迟保持在104至112毫秒。相比之下,传统完整上下文方案在256K历史下的首字延迟约为445毫秒。
存储方面,在256K历史长度下,MemT 1.0每条会话的记忆状态约占40 MiB,较传统方案的5.06 GiB缩减约130倍。
此外,在编程智能体测试中,MemT-1.0-Nano引入历史解题经验后,在SWE-bench Verified上的平均成功率由66.07%提升至69.73%,在SWE-bench Multilingual上的平均成功率由60.00%提升至63.56%。
目前,MemT 1.0模型权重已通过Hugging Face和GitHub开放。记忆张量表示,后续将继续提升长期记忆能力、扩展记忆容量,并降低记忆更新成本。(定西)
上一篇:东莞市中堂顺亿包装加工店(个体工商户)成立 注册资本1万人民币
下一篇:最后一页
北京市发改委等八部门印发《关于助企纾困促进消费加快恢复的具体措施》(以下简称《措施》)。7月7日,五部门联合召开发布会解读《措施》内容
白酒新国标实施一个月后,不少酒企也纷纷推出适应新国标的光瓶酒新品。7月7日,北京商报记者走访各大商超时注意到,光瓶酒货架上的产品包装
7月8日,北京市文化和旅游局发布2021年北京市文化和旅游业统计报告,2021年北京接待市民在京游人数1 26亿人次,较上年增长45 9%,较2019年
5月14日,郑州经开区第五大街一地铁口,一个核酸采样舱已布点就位,市民有序进行核酸采样。郑州经开区宣传部供图近日,河南省发布《河南省
稳就业保民生。由人力资源和社会保障部主办,河南省人力资源和社会保障厅承办的河南省2022年百日千万网络招聘专项行动将于5月16日启动,持
X 关闭
X 关闭