Scene-level long-term memory 벤치마크(find·restore·resume·routine 4가족) — 메모리 6전략(tagmem·vis-pure·rf-v3·frames-uniform·textlog·blind) 비교 + VLA 온라인 실행 트랙. 대상 경로: Robotics/scene_bench(활동) · Robotics/scene-mem-gen(무활동 — 마지막 문서 260908, git 미연동, 사실상 폐기된 구 데이터생성 경로).
126Commits (+6073 / −411)
30Work Logs
236SLURM Jobs
≈148.5GPU-h
어제 한 일 — A. 버그 2건 발견·수정·재실행 순환 (하루 전체를 지배한 근본 원인)
- 운반(carry) 버그(커밋
730a879) — 든 채 팔 이동 시 그리퍼 닫힘 명시 누락으로 두께>4cm 물체를 운반 첫 스텝에 놓아버림. 영향 실측 restore·routine 낙하율 95~99%. 수정 후: restore 온라인 121칸 재실행($17.13) 성공 17→39(SR .183→.220, LOO tagmem Δ+.121±.045 유일 유의) · routine 144칸 재실행(통 아닌 120칸) GC .212→.294 · 실험3 restore 149칸 대체(슬림69/비슬림80) 성공 13→35.
- 주입 컨테이너 파킹 버그 — 정적 바디(빨래바구니 등)가
qpos가 아닌 body_pos에 있어 npz 복원 시 허공에 남음. 영향: routine 682칸 중 121칸 성공 0/121 · resume 372칸 중 132칸 · 실험3 routine 615칸 중 90칸(전부 0). 수정 커밋 5fbbbf5 + 검증 게이트 G7 신설. 재실행 결과 통 칸 routine 121/121 완주(성공 13/121=.107·GC .117·$26.50).
- 두 버그 잔여분 정리가 오늘 새벽 "토탈 재실행"(routine 244·resume 131칸, ≈$68)으로 이어짐 — 위 우선순위 참조.
어제 한 일 — B. 온라인 본 런 3계열 완주/확장 (main 682칸, 실험3 find·restore·routine, resume 342→805칸)
- routine 온라인 main 682칸 완주 — 최초 GC .155($133.85, 218 GPU시간) → 운반버그로 결과 잠정 철회 → 재실행 후 중간보관 661/682행 GC .192.
- 실험3(oracle-plan, GT계획·시드없음) find 750행($52.14) — 5 arm 통계적 구별 안 됨(blind .367~tagmem .360, p≥.26). restore 740행($139.56) — rf-v3만 유의(SR .196 vs blind .108, p=.011). routine 615/615 완주($88.05) — tagmem SR .171 최고이나 McNemar p=.31로 유의 아님.
- resume 온라인 — v2(손목 인셋+1fps+방목록) 391칸 → 검증 342칸 제출 → v3(컷별 꼬리청크) 반영해 805칸(single 100·multi 61질의)으로 확장, 원격 키 3개 분할 배정 기동. 누름(press) 판정 6단계 결함 수정 끝에
place_oc_press .58(place_oc .01) 달성.
- 실행 병목은 5개 가족 공통 — VLA 파지 실패가 find 77/150·restore 102/148칸에서 arm 구분 없이 발생.
어제 한 일 — C. tagmem 메모리 전략 분석 3편 (왜 이기고 지는지 — 모달리티·조건·채점기준 3방향 규명)
- 모달리티 절제(text-only/frame-only) — find(717행) 프레임 지배: full 46.6 vs text 42.0 vs frame 47.7. restore(575행) 둘 다 필요: full 19.0 vs text 16.2 vs frame 15.7. routine(310행) 텍스트 지배: full 60.6 vs text-only 58.7(p=.49, 동률) vs frame 19.0(p<.001). 원인: 태그 검색이 범주 수준 일반화(다른 물체의 시범)를 회수하지 못함.
- 실험3(시드없음)에서 tagmem 부진 원인 — find .360(5개 중 3위)·restore .142(blind 대비 p=.42)로 낮지만, 이는 "못하는" 게 아니라 시드가 없어 tagmem의 강점(컨텍스트 검색)이 애초에 측정 대상이 아니기 때문. 시드 있는 실험2에서는 restore .303으로 1위. 효율 지표(재-pick·낭비턴)는 실험3에서도 tagmem이 최고(.053/.315).
- resume Single 심슨의 역설 해소 — vis-pure가 Single에서 1위(48.4)로 보였던 건 3행 차이(p=.58, 유의 아님)이자 채점 정의(남은 단위수) 문제. "pending 과제수" 기준으로 재정의하자 모든 reader·전략에서 tagmem이 Single(42.0)·Multi(47.5)·Avg(44.1) 전부 1위로 확정. resume cut-tail(컷 직전 30초 시야 확보) 적용 시 rf-v3 .335→.460(+12.4pp)·tagmem .441→.528(+8.7pp) — 본표 채택됨.
어제 한 일 — D. goal 이미지 실험 최종 확정 (운반버그 재측정 → 카메라 논쟁 → 정본 확정)
- 운반버그 수정 후 재측정해도 온라인 A/B(102쌍)는 여전히 무차이(29 vs 31, p=.856). place-only 프로브(93칸, 4조건)에서는 VLM 지목 goal @15cm 19 vs 없음 9(한쪽만 적중 16:6, p=.052) — goal 유효성 확인.
- 이후 정책 카메라가 학습 분포 밖으로 배치되는 결함을 발견해 재측정하니 효과가 소멸(9→13)했으나, 사용자 최종 결정: "카메라는 결함이 아니라 원래 랜덤 배치" → VLM 지목 goal @15cm 19 vs 9가 정본으로 확정(
final_results/goal_place_only_v1_260924/).
어제 한 일 — E. 인프라·성능·기타 (센서 슬림화·논문용 렌더·해상도 대조·회복력 실험)
- 센서 슬림화 채택 — 관측 처리가 액션당 소요시간의 65%(330ms)를 차지, 안 쓰는 센서가 260ms. 카메라 슬림화만으로 587→499ms, +OIP 슬림화로 254ms(2.3배). 궤적 비트동일(카메라만)·분포동일(RNG 밀림, +OIP) 검증 완료 → 신규 캠페인부터
SB_SLIM_SENSORS=1 SB_SLIM_OIP=1 채택.
- 논문용 ProcTHOR 평면도 228채 전량 렌더 완료(오류 0) — 도식형+컬러 탑다운, 이후 원근+skybox+로봇 포함 버전 228장×2 추가.
- 읽기 오답 시 온라인 회복력($11.57+$23.77) — find 읽기정답 SR .580 → 읽기오답 SR .206(방까지 틀리면 .105), 탐색으로 진짜 회복한 칸은 10/180(5.6%)뿐. restore는 더 가혹: 읽기오답 시 성공 3/180(1.7%), 둘 다 틀리면 0/71.
- VLM 현재뷰(320×181, 57,920픽셀)가 컨텍스트 기억프레임(640×480, 307,200픽셀)보다 5.3배 저해상도 — 마운트·수직FOV는 정확히 일치, 차이는 시점이 아니라 해상도·비율·그림자. 4가지 대응안 중 결정 대기(진행 중 캠페인 안에서는 변경 금지).
- 부록 자기쓰기 표 잔여 4칸 채우려 yj-1(H200) 서버 이식(≈133GB, 검증 bad=0) 시도했으나 vLLM 오프라인모드 스모크 실패 → 운반버그 재실행 우선으로 보류.
오늘 할 일 / 미해결 이슈
- [최우선] 토탈 재실행 완주 확인 — routine 244칸·resume 131칸(잡 12개), own GPU 8장 중 4장이 다른 캠페인(Online_GT_Eval)과 경합 중. 완료 예상 오늘 중, 완료 후 통 칸 routine 5칸 원격 회수·병합·final_results 최종 갱신.
- routine 온라인 main: 통 칸 21칸 완주 후 최종 GC·LOO·실패분해·리포트 갱신.
- resume 온라인 main: v3w 잔여 회수, 방문 재채점 v3w분(187행) 마무리.
- tagmem 절제실험 resume 팔(≈$96) — key2 월간 캡 10/1 해제 후 진행.
- 실험3 오라클: 컨테이너 90칸+비통 95칸=185칸 재실행 결과 회수·표 확정, resume 805칸 본 런 모니터링·키 배분 관리.
- 읽기오답 회복 실험: vlmpick 잔여 회수 후 최종표, "엉뚱한 곳 done" 45칸 행단위 확인.
- VLM 온라인 뷰 해상도 처리 방침 결정(4안 중) — 진행 중 캠페인 밖에서.
- 논문(scene_bench_paper) 반영 필요:
analysis.tex Resume 문단의 "vis-pure 우위" 서술을 새 표(tagmem 55.0>rf-v3 53.0>vis 39.0)에 맞게 정정.
scene_bench_paper마지막 커밋 260923 10:25 UTC(창 밖)
FurnitureBenchclaude 문서 260914 · git 서브모듈만(furniture-bench/.git)
R2S.omx 로그 260923 15:02 · git 없음
Zero-WAMclaude 문서 260918 · 마지막 커밋 260915(공개 릴리즈)
lingbot-vaclaude 문서 260907 · 마지막 커밋 260710
MolmoBotclaude 문서 260902 · 마지막 커밋 260917