← 목록
2026-09-18 · scene_bench · experiment

Phase 0b — 정책 카메라 오라클 goal 렌더로 restore place, 40칸 (런 2)

게이트·원래 자리 앵커 위에서 goal 렌더 / 기억 프레임 / 없음 3조건 · pi0.5 goal v2@10000 · API $0 · pick 1 cm 기준(런 2) — 런 3(5 cm·유지) 완료 — 하단 TL;DR 마지막 항목

TL;DR

1/10 (10%)
오라클 렌더(정책 카메라) · replace@10cm (든 채 도착분)
0/7 (0%)
기억 프레임(컨텍스트 영상) · replace@10cm (든 채 도착분)
0/10 (0%)
goal 없음 · replace@10cm (든 채 도착분)
40
칸
결론
goal 렌더 조건이 방향은 맞지만(정답 가구 위 6/10 vs 3/10, 중앙값 0.24 vs 0.31 m) 판정할 표본이 없다(쌍 n=4). 원인은 goal이 아니라 파이프라인: pick 성공 기준(1 cm)·접기 낙하(58%)·preplace 직후 조기 방출. 세 가지를 고친 뒤(런 3: pick 5 cm·유지 — 제출됨; place 판정을 '방출 후 놓임'으로·preplace 높이/생략은 결정 필요) 다시 재야 한다. 성공 예시 1건(6233 8.4 cm)의 영상·goal 화면은 아래.

1배경/목적 (왜)

Phase 0(260917): 기억 프레임을 goal로 넣어도 12롤아웃 중 원래 자리 15 cm 안 0/6. 진단은 (1) 프레임 종류가 학습 goal과 다름(로봇 장착 카메라·물체 0.1~0.3%) (2) pick 실패 (3) 큰 가구에서 원래 자리와 먼 곳에 섬. 이후 (2)·(3)은 자리 게이트와 원래 자리 앵커로 손봤고(docs/nav_pose_gate.md), (1)은 이번에 정책 카메라 오라클 렌더로 대체한다. 사용자: "골 이미지 넣고 성공하는 거까지 해볼까?"

2설정 (어떻게)

3결과 (수치)

정책 pi05_goal_v2. 칸마다 3조건을 같은 종료 상태에서 순서대로 돈다. 분모: place 서브골 진입 시 실제로 물체를 들고 있던 칸(held_at_place).

조건n든 채 도착정답 가구 위@5cm@10cm@15cmd_xy 중앙값(사분위)베이스→원래 자리앵커 / 폴백 nav
오라클 렌더(정책 카메라)40106/10 (60%)0/10 (0%)1/10 (10%)2/10 (20%)0.24 m (0.172–0.436)0.66 m22 / 1
기억 프레임(컨텍스트 영상)4073/7 (43%)0/7 (0%)0/7 (0%)0/7 (0%)0.48 m (0.346–0.617)0.69 m24 / 3
goal 없음40103/10 (30%)0/10 (0%)0/10 (0%)0/10 (0%)0.31 m (0.193–0.483)0.67 m18 / 2

오라클 렌더(정책 카메라) vs goal 없음 (둘 다 든 채 도착한 칸 쌍 n=4): d_xy 중앙값 0.358 → 0.193 m, 단축 0.165 m, Wilcoxon p=None → FAIL (사전 등록: 단축 ≥0.10 m ∧ p<0.05, n≥6)

기억 프레임(컨텍스트 영상) vs goal 없음 (둘 다 든 채 도착한 칸 쌍 n=4): d_xy 중앙값 0.386 → 0.346 m, 단축 0.039 m, Wilcoxon p=None → FAIL (사전 등록: 단축 ≥0.10 m ∧ p<0.05, n≥6)

오라클 렌더(정책 카메라) vs 기억 프레임(컨텍스트 영상) (둘 다 든 채 도착한 칸 쌍 n=4): d_xy 중앙값 0.418 → 0.258 m, 단축 0.16 m, Wilcoxon p=None → FAIL (사전 등록: 단축 ≥0.10 m ∧ p<0.05, n≥6)

읽는 법: 'held'는 place 진입 시 든 칸 수. @r은 그 칸들 중 비율. 쌍 비교는 두 조건 모두 든 칸만이라 n이 작다.

조기 종료: place 스텝 분포 render [0, 4, 10, 21, 32, 34, 158, 300, 300, 300], off [0, 10, 34, 55, 175, 296, 300×4]. 0~10스텝 행은 preplace(표면 점 15 cm 위로 IK) 직후 물체가 놓이거나 정책이 첫 청크에 놓은 경우 — 위치는 preplace xy가 정한다. preplace 도달 16/18(final_l2 < 5 cm).

낙하: 접기 낙하 37/64(slip 0.15~0.65 m, 같은 물체가 되기도 안 되기도), place 중 낙하(바닥) render 3·oracle 2·off 4.

4칸별

칸물체 → 가구오라클 렌더(정책 카메라)
held / placed_on / d_xy
기억 프레임(컨텍스트 영상)
held / placed_on / d_xy
goal 없음
held / placed_on / d_xy
restore:train_1299__2:q02paper towel roll → diningtable✓ / ✗ / 0.26✗ / ✗ / 4.79✗ / ✗ / 4.93
restore:train_1847__1:q03ladle → countertop✗ / ✗ / 4.73✗ / ✗ / 4.51✗ / ✗ / 4.67
restore:train_188__2:q01paper towel roll → armchair✗ / ✗ / 5.88✗ / ✗ / 5.98✗ / ✗ / 5.82
restore:train_2159__2:q08potato → sofa✗ / ✗ / 7.26✗ / ✗ / 7.23✗ / ✗ / 7.30
restore:train_2788__2:q04pepper shaker → chair✗ / ✗ / 2.32✗ / ✗ / 2.40✗ / ✗ / 2.56
restore:train_2788__2:q06spray bottle → chair✗ / ✗ / 5.97✗ / ✗ / 5.97✓ / ✗ / 0.39
restore:train_2853__0:q01paper towel roll → diningtable✗ / ✗ / 5.56✓ / ✗ / 0.62✗ / ✗ / 5.52
restore:train_2853__2:q03soap bottle → sofa✓ / ✓ / 0.17✗ / ✗ / 6.11✗ / ✗ / 5.95
restore:train_3655__2:q04spray bottle → chair✗ / ✗ / 4.24✓ / ✗ / 7.46✗ / ✗ / 4.28
restore:train_3912__2:q03tennis racket → diningtable✗ / ✗ / 4.26✗ / ✗ / 4.11✗ / ✗ / 4.13
restore:train_3944__0:q02paper towel roll → chair✗ / ✗ / 1.66✗ / ✗ / 1.53✗ / ✗ / 1.66
restore:train_3994__0:q06pan → countertop✓ / ✗ / 0.49✗ / ✗ / 9.78✗ / ✗ / 9.45
restore:train_4136__1:q01butter knife → diningtable✗ / ✗ / 8.82✗ / ✗ / 8.82✗ / ✗ / 8.82
restore:train_4304__0:q03knife → chair✗ / ✗ / 3.55✗ / ✗ / 3.55✓ / ✗ / 0.19
restore:train_4392__2:q00remote control → chestofdrawers✗ / ✗ / 9.52✗ / ✗ / 9.53✗ / ✗ / 9.49
restore:train_4584__0:q00cell phone → countertop✓ / ✗ / 0.59✗ / ✗ / 5.48✗ / ✗ / 5.46
restore:train_4584__0:q01salt shaker → countertop✗ / ✗ / 5.01✗ / ✗ / 5.02✗ / ✗ / 5.03
restore:train_6222__1:q05pot → diningtable✗ / ✗ / 9.03✗ / ✗ / 9.02✗ / ✗ / 9.01
restore:train_6233__1:q04cup → chair✓ / ✓ / 0.08✗ / ✗ / 7.21✓ / ✓ / 0.12
restore:train_6233__1:q08candle → diningtable✓ / ✓ / 0.30✓ / ✓ / 0.35✓ / ✓ / 0.51
restore:train_6242__1:q05bottle → countertop✗ / ✗ / 7.22✗ / ✗ / 7.19✗ / ✗ / 7.19
restore:train_6242__1:q06apple → chair✗ / ✗ / 4.87✗ / ✗ / 4.85✗ / ✗ / 4.87
restore:train_6278__2:q00remote control → bed✗ / ✗ / 14.09✗ / ✗ / 14.10✗ / ✗ / 14.10
restore:train_6278__2:q01remote control → crapper✗ / ✗ / 6.18✗ / ✗ / 6.20✗ / ✗ / 6.21
restore:train_6278__2:q04mug → diningtable✓ / ✓ / 0.17✓ / ✗ / 0.05✓ / ✗ / 0.53
restore:train_6278__2:q07cup → chair✗ / ✗ / 6.51✗ / ✗ / 6.56✗ / ✗ / 6.52
restore:train_6278__2:q08tomato → chair✗ / ✗ / 6.11✗ / ✗ / 5.73✗ / ✗ / 6.19
restore:train_6728__2:q01spatula → diningtable✗ / ✗ / 7.43✗ / ✗ / 7.49✓ / ✗ / 0.36
restore:train_6878__2:q01cell phone → crapper✗ / ✗ / 8.12✗ / ✗ / 8.09✓ / ✗ / 0.13
restore:train_7152__1:q00remote control → diningtable✗ / ✗ / 3.51✗ / ✗ / 3.51✗ / ✗ / 3.52
restore:train_7385__0:q00remote control → bed✗ / ✗ / 4.51✓ / ✓ / 0.34✓ / ✓ / 0.26
restore:train_7650__2:q02spoon → diningtable✓ / ✓ / 0.22✓ / ✓ / 0.61✓ / ✗ / 0.20
restore:train_7661__1:q00candle → stand✗ / ✗ / 10.62✗ / ✗ / 10.62✗ / ✗ / 10.62
restore:train_7661__1:q01mug → countertop✗ / ✗ / 4.33✗ / ✗ / 4.40✓ / ✗ / 0.57
restore:train_7845__2:q03ladle → chair✓ / ✗ / 0.48✓ / ✗ / 0.48✗ / ✗ / 1.32
restore:train_8287__1:q00tissue box → sink✓ / ✓ / 0.14✗ / ✗ / 5.67✗ / ✗ / 5.68
restore:train_9026__1:q03bowl → chestofdrawers✗ / ✗ / 4.02✗ / ✗ / 4.49✗ / ✗ / 4.46
restore:train_9778__1:q04spray bottle → armchair✗ / ✗ / 6.93✗ / ✗ / 6.86✗ / ✗ / 6.86
restore:train_9797__1:q00candle → diningtable✗ / ✗ / 13.43✗ / ✗ / 13.28✗ / ✗ / 13.41
restore:train_9909__2:q05tomato → diningtable✗ / ✗ / 3.86✗ / ✗ / 3.58✗ / ✗ / 3.22

5증거 — goal 화면과 place 영상

@10cm 성공 순으로 든 채 도착한 에피소드 6개: 정책에 들어간 goal 렌더(있으면), place 영상, 도착 직후 기록 카메라.

restore:train_6233__1:q04 · cup → chair · 오라클 렌더(정책 카메라) · 성공 @10cm · d_xy 0.08405537810214338 m · 베이스→원래 자리 0.442 m · 앵커 given
정책에 들어간 goal 렌더
place 서브골 영상
place 자리 도착 직후(기록 카메라)
restore:train_6278__2:q04 · mug → diningtable · 기억 프레임(컨텍스트 영상) · 실패 · d_xy 0.04593885998374175 m · 베이스→원래 자리 0.477 m · 앵커 given
place 서브골 영상
place 자리 도착 직후(기록 카메라)
restore:train_6233__1:q04 · cup → chair · goal 없음 · 정답 가구 위(원래 자리에서 0.12 m) · d_xy 0.12167335708041588 m · 베이스→원래 자리 0.484 m · 앵커 given
place 서브골 영상
place 자리 도착 직후(기록 카메라)
restore:train_6878__2:q01 · cell phone → crapper · goal 없음 · 실패 · d_xy 0.12631024994710693 m · 베이스→원래 자리 0.397 m · 앵커 given
place 서브골 영상
place 자리 도착 직후(기록 카메라)
restore:train_8287__1:q00 · tissue box → sink · 오라클 렌더(정책 카메라) · 정답 가구 위(원래 자리에서 0.14 m) · d_xy 0.13584837557679205 m · 베이스→원래 자리 0.276 m · 앵커 given
정책에 들어간 goal 렌더
place 자리 도착 직후(기록 카메라)
restore:train_6278__2:q04 · mug → diningtable · 오라클 렌더(정책 카메라) · 정답 가구 위(원래 자리에서 0.17 m) · d_xy 0.171039894979754 m · 베이스→원래 자리 0.478 m · 앵커 given
정책에 들어간 goal 렌더
place 서브골 영상
place 자리 도착 직후(기록 카메라)

6의미 (Takeaway)

7보완점/다음 (Next)

  1. 런 3(pick ≥5 cm·유지 2회, 잡 134984/134986/134678/134679, extra QOS 대기) — 접기 낙하율·held 수 확인.
  2. 결정 필요: place 진입을 어떻게 둘지 — (a) preplace 높이를 올리거나 앵커에서 0.2 m 떨어진 중립 점으로 (b) preplace 생략(접힌 자세에서 정책이 전부) (c) 오라클 파지(pick·접기 손실 제거, place만 40칸 전부). 권장 (a)+(c).
  3. MolmoBot goal 모델(hand-off 벤치 63.8%@10)은 아직 안 돌림 — 파이프라인이 정리된 뒤.
  4. 훅(nav0·drive·orchestrator·online.py·subgoal_factory)은 작업 트리 — 다른 세션 작업과 함께 커밋.
scene_bench · Phase 0b · 2026-09-18