공개 벤치마크

Engram 벤치마크 방법론

공개 결과의 근거가 되는 데이터셋, 검색 지표, 답변 평가, 기준선, 한계와 주장 규칙을 확인하세요.

업데이트 4 분 읽기
LoCoMo 근거 검색93.29%
LoCoMo 답변 평가89.65%
작동 방식
01

LoCoMo 근거 검색

전체 공개 실행입니다. 필요한 원문 근거가 검색된 메모리에 포함되는지 보여줍니다.

02

LoCoMo 답변 평가

모든 행은 증거가 있는 1,536개 작업 전체와 같은 top-50 기준을 사용합니다. Codex가 답을 생성했고 별도의 블라인드 평가자가 채점했습니다. Engram이 실행한 진단이며 공식 LoCoMo 순위표가 아닙니다.

03

두 표를 읽는 방법

공개된 두 평가는 증거가 있는 1,536개 작업 전체를 사용합니다. 증거 검색에는 원본 ID가 필요하며 포함된 모든 시스템에 동일한 답변 모델과 판정 모델을 사용합니다. 같은 평가 조건을 충족하지 않는 시스템은 순위에 섞지 않고 별도로 기록합니다.

1,536

채점된 근거 검색 질문

93.29%

Engram R@50

89.65%

top-50 문맥 답변 정확도

근거 검색과 답변 정확도는 분리해서 보여줍니다. 둘 다 공개 LoCoMo를 쓰지만 메모리 루프의 다른 단계를 봅니다.

AgentMemory는 최대 100개 결과만 반환하므로 R@200은 N/A로 표시합니다. Tenure는 LoCoMo 원본 근거 ID를 보존하지 않아 공개 순위에 포함하지 않으며, 실험 실행은 방법론에 계속 기록합니다.

Engram은 올바른 근거를 찾는지, 그리고 그 문맥으로 LLM이 올바르게 답하는지를 따로 측정합니다.

근거 검색과 답변 정확도는 분리해서 보여줍니다. 둘 다 공개 LoCoMo를 쓰지만 메모리 루프의 다른 단계를 봅니다.

이 글이 도움이 되었나요?

이 기기에 저장됩니다

공유inX

관련 글

지원 및 피드백

Engram 개선에 의견 보내기

setup이 헷갈리거나 tool이 이상하게 동작하거나 pricing limit가 잘못된 것 같으면 여기로 보내세요. 메시지는 바로 우리에게 옵니다.

지원 및 피드백

무엇을 개선할까요?

Bugs, confusing setup steps, pricing questions, product ideas가 Engram team으로 바로 전달됩니다.

10자 더 필요합니다0/10