Index
2026-09-08 — Experiment

Restore Stateful 분해 확장 — Distractor multi 57행 추가, 총 575행

scene_bench_paper | §5 결과 원천 확장, HANDOFF_v1final_eval.md [260908] 항목

TL;DR

≤.11 / 0
S② 비오라클/오라클 loc
.84~.86
S① 오라클 loc
.160
S① 비오라클 1위(flash-3.7 tagmem)
575
restore 총 행(518+57)

1 배경 / 목적

260907 카드(Restore v1.1 최종 확정 — 6모델×6전략 + Direct self/other 분해)에서 restore v1.1(609076c0, 518행 = target 322 + distractor 196)을 확정하고, Direct ①/② 분해로 "그 시점 한 번의 질의"에서 self(target)/other(distractor) 난이도 차이를 실증했다. 그러나 이 분해는 정적인 단일 질의 상황만 다루며, 같은 물체를 여러 번(multi-instance) 반복 추적해야 하는 stateful 상황에서 distractor 추적이 어떻게 무너지는지는 미측정 상태였다.

이를 메우기 위해 새 HF 스냅샷(6511da78)에서 restore_distractor multi 57행을 신설 수집했다 — 컨텍스트(관찰 시퀀스)는 손대지 않고, 새 질의 문항만 추가한 것이 특징. 동시에 대칭 축인 target multi(S①, 51행)도 함께 정리해 self/other × single/multi 4분면 중 마지막 남은 셀을 채웠다.

2 작업 내용

HF 6511da78 스냅샷에서 restore_distractor multi 57행을 신설했다. 컨텍스트는 불변 — 에피소드 재시뮬레이션 없이 기존 관찰 시퀀스를 그대로 쓰고, 메모리도 find/restore 기존 캠페인 것을 재사용(읽기 전용, ingest 재실행 0콜)했다. 즉 이번 확장은 순수하게 새 질의(query) 문항 추가이며 데이터 수집 비용이 낮다.

명명 체계를 Direct(D, 단일 질의 시점)와 Stateful(S, multi-instance 반복 추적)로 분리해 정리했다: D①=target 단일(215행), D②=distractor 단일(196행), S①=target multi(51행), S②=distractor multi(57행, 신규). 이번 추가로 restore 벤치 총 행수가 518 → 575(+57)가 됐다. 논문 §5의 결과 표는 이 5개 셀(D①/D②/③/S①/S²) 단위로 재구성할 것을 권고한다 — ③은 260907 카드의 혼합(target+distractor 통합) 본표를 가리킨다.

신규 데이터: HF 6511da78, restore_distractor multi 57행 (컨텍스트 불변, 메모리 재사용 읽기 전용) restore 총 행수: 518(v1.1, D①+D²) → 575(+S② 57행) 셀 명명: D①(target 단일 215) · D②(distractor 단일 196) · ③(혼합 본표) · S①(target multi 51) · S②(distractor multi 57, 신규) 논문 표 권고: D①/D②/③/S①/S² 5셀 단위 구성 원천: scene_bench/final_results/restore_v1.1_609076c0/tables/ (518행 본표), 보관소 표 파일 (575행 전체)

3 결과 (수치)

셀정의오라클(textlog)비오라클 최고
S① target multi내가 여러 번 옮긴 물체, 51행.84~.86flash-3.7 tagmem-r3 .160 / vis-pure .140
S② distractor multi남이 여러 번 옮긴 물체, 57행(신규)0 (정의상 붕괴)flash-3.7 vis-pure .107, 나머지 ≤.05

참고: 518행(메인) vs 575행(전체) 표 기준 차이 — flash-3.7

전략518행(S² 제외, 메인)575행(S² 포함, 전체)
vis-pure (MemER-style).351.327
tagmem-r3 (ours).316.286
textlog (오라클).589.531

논문 본문 표는 518행(S② 제외) 기준을 유지하고, 575행 전체 표는 보관소 표 파일에만 남긴다 — S²을 섞으면 오라클·비오라클 수치가 모두 낮아져(예: textlog .589→.531) 벤치 난이도 해석이 왜곡되기 때문.

S② 전면 붕괴: "남이 여러 번 옮긴 물체"를 stateful하게 추적해야 하는 S②에서는 action-log 오라클조차 0으로 떨어진다 — 260907 카드의 D²(오라클 N/A, 실측 .03)보다 한 단계 더 극단적인 셀. 정의상 정보가 없는 것이지 모델 실패가 아니므로, 논문에서 "오라클 0/N/A"를 D²·S² 각각 별도 각주로 구분해야 오라클 하한 과소평가를 피할 수 있다.
S① 격차: target 추적 자체는 오라클 .84~.86로 여전히 높지만, 비오라클 최고(flash-3.7 tagmem .160)와의 격차가 D①(target 단일, 오라클 .93~.95, tagmem 계열 .53)보다 훨씬 크다 — multi-instance 반복 추적이 단일 질의보다 실질적으로 더 어려운 병목임을 시사.

4 Takeaway

의미

260907 카드의 self/other(Direct) 축에 이어 single/multi(Stateful) 축을 추가함으로써, restore 벤치의 난이도가 두 개의 독립적인 축 — (1) self(target) vs other(distractor), (2) 단일 질의 vs multi-instance 반복 추적 — 의 조합으로 구성된다는 것이 명확해졌다. 이 중 S²(other × multi)는 오라클조차 0으로 무너지는 유일한 셀로, 벤치 설계 공리 A1("관측에 없는 정보를 채워야 한다")의 가장 극단적인 사례가 self/other 단일 축이 아니라 self/other × stateful 조합에서 나온다는 뜻이다.

실무적으로는, 이번 확장이 컨텍스트 재시뮬레이션 없이 질의만 추가하는 저비용 방식으로 이뤄졌다는 점도 중요하다 — 앞으로 벤치 난이도 축을 추가할 때 "새 질의 문항 + 메모리 재사용" 패턴이 반복 가능한 확장 절차로 자리잡았다.

5 Next Steps

미해결 한계

575행 전체 표를 본문에 넣을지 부록으로 옮길지 미확정 — 현재는 518행 메인 표 유지 + 575행 보관소 표 병행 상태. D²(오라클 N/A)와 S²(오라클 0) 두 붕괴 유형의 논문 각주 표기 방식(같은 각주 vs 구분 각주)도 미정. flash-3.6이 restore v1.1에서 아직 보류 상태라 S①/S² 셀도 6모델 기준(flash-3.6 제외)에 머물러 있다.

다음 작업

(1) 논문 §5 결과 표를 D①/D²/③/S①/S² 5셀 단위로 재구성하고 캡션에 오라클 N/A vs 오라클 0 구분 명시. (2) flash-3.6 restore v1.1 재측정 완료 후 S①/S² 셀도 7모델로 확장. (3) S² 붕괴(오라클 0)가 D²(오라클 N/A, 실측 .03)와 별개의 실패 모드인지, 아니면 multi-instance 자체가 만드는 부가 난이도인지 원인 분해 실험(예: distractor 단일 vs multi를 같은 질의 문구로 통제) 설계.