← 리포트 목록
2026-09-07 · scene_bench · plan

Routine(type3) read-track VLM eval — 설계 v1

TidyBot형 정리 규칙을 find/restore 메모리 모듈 프로토콜에 얹는다 · 사용자 결정 4건 반영

TL;DR

1설계 결정

항목결정이유
답 형식find와 동일 {category, room, surface}; room 필수클래스만 채점하면 내비게이션 목표(방)가 사라짐 — 사용자 지적
채점loc/place_set(GT=증거 인스턴스) + place_any(any instance)·class_ok·control_okfind 카운터 채점 재사용, 계획서 any_instance_ok는 진단으로
질의홀드아웃을 텍스트로 지명 'Put this hand towel away.' / multi 'Clear the countertop: …' / control 'Put this pen away.'홀드아웃은 컨텍스트 미등장 하위 카테고리라 이미지로 못 가리킴
질의 이미지마지막 프레임 + 마지막 5 s 픽셀 누출 검사(≥200 px → leak 플래그, 헤드라인 제외)find/restore와 동일 형식 유지
발화들은 시점에 메모리 입력으로 주입 — textlog·frames 캡션·rf-v3·vis·tagmem ingest. blind 제외로봇이 실제로 들었고 온라인 플래너도 받음; type3만 채워 find/restore/resume 바이트 불변
전략blind · textlog · frames-uniform · rollforward-v3 · rollforward-vis-pure (5)rf-v2·tagmem 제외 (사용자 260907), 온라인 트랙과 동일
러너run_eval_routine.py (resume 골격, 컷 없음, 컨텍스트당 ingest 1회)run_eval_v1은 find 전용 장치가 얽혀 있어 분리
어댑터pack_routine_sample.py(raw→contexts/type3 symlink) · build_routine_rows.py(plan+subtasks+evidence→행 5개)정식 build_routine_queries/pack_routine 오면 폐기
샘플train_1652__3000: D① 음식→침실 책상·천→부엌 바구니 + D② 수저→거실 소파, 4/4 clean3편 중 유일하게 D①·D② 둘 다 + 실패 유닛 0

2게이트 기대값

3파이프라인

  1. 팩 → ~/datasets/routine_sample_260907/contexts/type3/
  2. 행 빌더 → eval/routine/queries.jsonl (direct×3, multi, control)
  3. 하네스: Episode.heard · heard_part 주입 · parse_answer_routine · score_routine · run_eval_routine (테스트 21)
  4. dry-run(누출 가드) → sbm "bash scripts/run_routine_pilot.sh" --gres=gpu:0
  5. 전 과정 HTML + 로그

설계서 claude/260907/plan-routine_read_eval.md · 구현 계획 docs/superpowers/plans/2026-09-07-routine-read-eval.md