LoCoMo 证据检索
完整公开运行。分数表示所需源证据是否出现在取回的记忆中。
公开基准
查看 Engram 已发布结果背后的公开数据集、检索指标、答案检查、基线、限制和声明规则。
完整公开运行。分数表示所需源证据是否出现在取回的记忆中。
每一行都使用完整的1,536个有证据任务和相同的top-50上限。Codex生成答案,另一个盲审评估器负责评分。这是Engram执行的诊断,并非官方LoCoMo排行榜。
两项公开评估都使用全部1,536个有证据任务。证据检索要求来源ID,所有纳入的系统使用相同的回答模型和评审模型。不满足同一评估协议的系统会单独记录,而不会混入排名。
已评分的证据检索问题
Engram R@50
top-50 上下文答案准确率
AgentMemory 最多返回100条结果,所以 R@200 显示为 N/A。Tenure 不保留 LoCoMo 来源证据 ID,因此不纳入公开排名;其实验运行仍记录在方法说明中。
支持和反馈
如果 setup 让人困惑、工具行为异常或价格限制看起来不对,请在这里告诉我们。消息会直接到我们这里。