Index
2026-09-23 — Analysis

routine 파지 실패 84% — 물체 카테고리 원인

scene_bench | routine online eval — VLA 학습 데이터 커버리지

TL;DR

84%
파지 실패 비중
44%
GT 중 희귀 5종 비율
.54 vs .00
Mug vs Tomato 들어올림

1 배경 / 목적

routine 본 런 중간 집계(589행)에서 실패 495칸 중 417칸(84%)이 "GT 근처 도달 후 파지 실패"로 확인된 상태에서, 사용자 질문 "물체들이 학습 때 안 봤던 물체들인가?"에 답하기 위해 행 단위로 카테고리 구성을 확인했다.

2 작업 내용

카테고리별 도달·들어올림(ever-lifted = lifted_gt ∪ placed_gt — lifted_gt는 놓으면 빠지므로 합집합이 맞는 정의)을 집계해 find·restore 본 런과 같은 지표로 비교했다. VLA(MolmoBot place_oc@10000) 학습 데이터 표본은 FrankaPick part0·FrankaPickAndPlace part0·1에서 집 150개씩, 파일 1개의 모든 traj의 obs_scene.referral_expressions.pickup_name을 추출해 1,900 traj · 648 카테고리로 구성했다(증강 세트 molmo_augment_*는 미포함).

3 결과

가족도달 → 들어올림
find.54 (858/1591)
restore.31
routine.22 (130/580)

routine 카테고리별 (도달 → 들어올림 / 학습 표본 수)

카테고리도달들어올림비율학습 표본(1,900 중)
Mug50270.54151 (find mug 0.57과 동일)
Fork30170.5726
Spoon19110.5824
Spray_Bottle97350.3624
Alarm_Clock79200.255
Hand_Towel86130.150 (paper towel만 24)
Tomato7600.007
Bread7610.010
Cloth1600.000
Plate1810.067
Soap_Bottle900.0012
희귀·부재 5종(Bread·Hand_Towel·Cloth·Tomato·Plate)이 routine GT의 44%(296/666): 들어올림 0.06 · 단일답 SR .028(7/246). 나머지: 들어올림 0.37 · SR .269(87/323).
표본 수만으로는 설명 안 됨: 토마토(학습 7)·비누병(12)은 표본이 아예 없는 건 아닌데도 0 — 둥글고 미끄러운 형상·에셋 크기 등 물리적 요인 가능성.

4 Takeaway

의미

"안 본 물체" 가설은 절반만 맞다. 학습에 흔한 카테고리(mug·fork·spoon)는 find와 같은 ~0.55로 들어올리고, routine이 낮은 것은 GT의 44%가 학습에 없거나 드문 카테고리(빵 0·천/수건 0·접시 7·토마토 7)이기 때문이다. 메모리 전략 비교에는 영향이 동일하다(모든 전략이 같은 물체 분포를 마주친다) — 다만 SR 천장이 낮아져 전략 간 차이의 검정력이 줄어든다는 점은 routine 결과 해석 시 주의해야 한다.

5 Next Steps

미해결 한계

토마토·비누병처럼 학습 표본이 있는데도 0인 카테고리의 원인(형상·물리 vs 다른 요인)이 미분리.

다음 작업

토마토·빵 실패 영상 몇 개로 "접근은 하는데 미끄러짐" vs "잡으려는 시도 자체가 엉뚱함" 구분. 논문에는 routine 온라인 수치가 VLA 커버리지에 묶여 있음을 명시하고, 카테고리 층화 표를 병기 후보로 검토.