← 목록
2026-10-19 · rr-bench

GT execute 파일럿 — 방법별 성공률과 실패 원인

harness v2 + pick 링 + base 높이 · 140셀 · VLM 비용 $21.45

TL;DR

32/40
Finding
2/40
Restore
15/40
Resume
8/20
Routine
$21.45
VLM 비용

1방법별 성공률

방법FindingRestoreResumeRoutine합계
blind8/80/83/83/414/28
frames-uniform6/81/82/83/412/28
rollforward-vis-pure7/80/84/80/411/28
rollforward-v35/80/83/82/410/28
tagmem-r36/81/83/80/410/28

GT 설정은 다섯 방법 모두 정답 목표를 지시문으로 받는다. 질의 단위로 보면 대부분 다섯 방법이 함께 성공하거나 함께 실패한다(Finding 5질의 전원 성공, Restore 6질의 전원 실패).

2실패 원인

원인근거영향
운반 중 base 높이 유지 (규칙 결함)base < −0.5에서 놓기 20회 전부 surface_out_of_reach; base ≥ −0.14에서 놓기 성공 36건 전부Restore, Routine
놓기 정책첫 운반 놓기 18/35, 떨어뜨림 다수. Restore에서 정답을 든 21행 중 성공 2Restore
open숨겨진 물체 2질의, open/close 244회 중 실질 성공 2Restore
presspress 단위 3/20. 시도 성공 23/68. 초과 누름으로 0점 3행Resume
VLM false_done실패 중 Resume 17/25, Restore 16/38, Finding 4/8, Routine 5/12전체
멀티 물체Finding 1/5, Restore 0/15, Routine 0/5전체
측정 의심: 6844__2 휴대폰(blind)은 서랍장 위 책 위에 놓였는데 placed_on False. 시뮬레이터 재확인 필요.
invalid turn 0, unknown name 0, 예산 때문에 갈린 행 0 — 하네스·이름 문제는 아님.

3Next