로봇이 한 집에서 여러 날 살며 쌓은 기억을 실제 행동으로 옮기는지 측정하는 벤치마크(Find·Restore·Resume·Routine 4가족, 6개 메모리 전략 비교 + VLA 온라인 실행). 대상 경로: Robotics/scene_bench(활동) · Robotics/scene-mem-gen(비활성 — 마지막 문서 260908, git 미초기화, 사실상 폐기된 구 데이터생성 경로).
73Commits (+14792 / −1200)
15Work Logs
181SLURM Jobs
≈120.2GPU-h
한 일 — A. R&R(tagmem) 온라인 구현 결함 수정 + 재실행 검증 (설계 결론이 버그와 무관함을 재확인)
- 구현 결함 3건 수정(커밋
3f03faf, 56 files +3544/−14) — 태그 어휘·검색 질의·[now] 라벨 오류. c7fbcd9 씬 이름 태그 매칭 단어경계 수정.
- 582칸 재실행($79.7, 3.8h) — 수정판 vs 원 R&R: find .373 vs .360(p=.86) · restore .162 vs .176(p=.86) · routine .146 vs .179(p=.48) · resume .304 vs .298(p=1.00) — 전부 통계적 동률, 설계 결론 불변. 부작용: false_done 소폭 증가(예 resume 93→106).
- 본표 교체 여부는 사용자 결정 대기 — 위 우선순위 참조.
한 일 — B. Oracle-plan(실험3, GT계획·시드없음) 4가족 완주 + 분석 다수 (find 750·restore 740·routine 615·resume 805, API 합 ≈$366.6)
- resume 최종 805/805 완주($83.59) — SR blind .186 → rf-v3 .304(p=.001) → tagmem .298(p<.001). 이득 출처는 완료 인지(방문만 blind .742 vs 메모리arm .93~.97).
- routine 최종 123칸×5arm($91.32) — SR blind .154~tagmem .179, 전부 McNemar p≥.50로 통계적 무차별. 5 arm 전부 실패 78/123(multi 43 전부 포함).
- find·restore no-memory parity 분석 — 첫 navigate 적중 .76~.79로 arm 무관(계획이 정답 제공), arm 간 차이 대부분 파지 복권(lift 5~7%)과 이항 잡음(find≈6칸·restore≈4칸)에서 나옴.
- tagmem-r3 재현런(카메라 수정판) — 같은 칸 재현 일치율 83.2%(16.8% 뒤집힘) → 본표 arm 간 차이가 잡음 범위 안임을 실측 확인. 본표 tagmem 행 교체(restore SR .142→.176, GC p=.012로 유의 상승).
- subgoal 분해 정밀분석(2,910칸) — 첫 결정 GT 적중 .85~.87 arm 무관. restore 핵심 병목 = 빈손 놓기(rf-v3 67건·vis-pure 99건, 롤포워드가 잘못된 holding 상태 고착).
- Table 3 편집거리 지표를 20여 커밋으로 반복 정제 →
refresh_gt_table3.py 단일 생성기로 통합, Overleaf push 완료.
한 일 — C. tagmem 메모리 전략 근거 분석 3편 (이미지 예산·발화 캡션·자기 칸 선택 편향 규명)
- 이미지 예산 8→4 절제($65) — tagmem만 견고: find 46.6→45.0(Δ-1.6, n.s.) vs vis-pure 44.1→29.8(p<.001). restore 19.0→17.2(Δ-1.8, p=.06) vs vis-pure 16.0→7.3(p<.001).
- routine uniform 강세의 정체 — 프레임 품질이 아니라 발화 텍스트 주입. 발화 캡션 제거 후 uniform 51.6→22.3, 오픈모델은 발화 없으면 거의 0(Gemma4 37.7→3.9). Luna routine uniform도 37.4→2.9.
- 이미지 장부(visual ledger) 도입 시 frame-only routine 19.0→23.9(p=.028)→태그 캡션 추가 30.6(vis-pure 28.7과 동률). resume 자기쓰기 4팔: full 52.8·text-only 46.0·frame-only 22.4(vis-pure 30.4보다 열세).
- resume Single 온라인 역전 원인 = 자기 칸 선택 편향(vis-pure·rf-v3가 쉬운 방문형만 혼자 맞힘) — 같은 칸 비교·종단 GC(.145 vs .129)에서는 tagmem 1위 유지. 3회 반복측정 SR .153/.118/.212(잡음 큼), pass@3 .282.
한 일 — D. 오픈 모델 자기쓰기(selfwriter) 재측정 (Qwen3.8·32B·Gemma4·Molmo2 최신 하네스)
- resume 자기쓰기 재측정 — tagmem Avg%: Gemma4 18.0·Qwen3.8 16.1·32B 9.3·Molmo2 7.5, 전부 writer 병목(교차읽기 33.5보다 낮음).
- SLURM 워커(
wrself_*) 4모델 합산 ≈32 GPU-h — 아래 SLURM 표 참조.
한 일 — E. ICLR 2027 제출 준비 (research-council 모의 리뷰 4연속)
- run1(옛 초안 13쪽, [TW] 잔존) Rating 4.0 → run2(블라인드 재검증) 4.4 → run3(최신 28쪽본 정정) 4.8 → run4(정확성 규칙 추가) 5.2(4/6/4/6/6) — 매번 AC Reject/borderline.
- 공통 지적: 통계 부재(3-run SD/CI/McNemar), 셀별 분모 불일치(717≠722 등), Table 6 "best" 문구 vs Appendix C.5 "similar" 문구 충돌, goal-image 과장(29/102 vs 31/102, p=.86) 완화 필요.
오늘 할 일 / 미해결 이슈
- [최우선] ICLR 제출 전 보강 4건 — 통계(SD/CI) 보고, SR|correct-QA 표 추가, Table 6/C.5 문구 일치, Table 4/7 캡션 보강.
- R&R rrfix 재실행 결과의 본표 반영 여부 결정 (반영 시
archive_oracle_plan.py 오버라이드 + refresh_gt_table3.py 재실행 + Overleaf push).
analysis.tex Table 3 Rep./Ovr. 정의 변경에 따른 routine overrun 서술 정정.
- Resume tagmem 팔(text/frame-only, ≈$96) — key2 월간 캡 10/1 해제 후 진행.
- 9/27~28 무활동 — 월요일 재개 시 위 항목이 최우선 과제로 대기 중.
scene_bench 벤치마크 논문(ICLR 2027 제출용, LaTeX, Overleaf git bridge로 동기화). claude/ 문서 디렉토리 없음 — 커밋 로그 자체가 작업 이력 역할.
1Commits (+5367 / −216)
0Work Logs
—SLURM Jobs
—GPU-h
한 일 (scene_bench 최신 결과를 논문 표로 반영)
fd55098(09-26) — resume 꼬리조건·pending 분할 본표, frames-uniform 프레임 재정의(3 reader 재측정), tagmem 모달리티 절제 4패널(+frame-only 장부·태그 행), 이미지 예산 8→4 표, 부록 자기쓰기 표 6모델(32B 추가) 반영. 10개 파일 변경(build_selfwriter_table.py 등 3개 스크립트 신규).
- scene_bench가 지적했던 "논문 반영 필요" 후속조치가 이 커밋으로 일부 진행됨.
- 09-26 이후(09-27~28) 추가 커밋 없음.
오늘 할 일 / 미해결 이슈
- selfwriter 표에 일부 모델이 "pending" 표기(tail-window 조건 미재실행, 이전 조건 값으로 대체) — scene_bench 쪽 재실행 완료 시 갱신 필요.
- scene_bench의 R&R rrfix·09-26 이후 결과가 이 저장소에 아직 반영됐는지 미확인 — 반영 필요할 가능성.
FurnitureBenchclaude 문서 260914 · openarm_harness 미문서화(9/23까지 v19)
R2S.omx 로그 260923 · G002 GPU캐파 대기 5일+
Zero-WAM마지막 커밋 260915 · 문서 260919 · 추가학습 보류 9일째
lingbot-va마지막 커밋 260710 · 문서 260908
MolmoBot마지막 커밋 260917 · 문서 260909