Index
2026-09-16 — Analysis

policy_harness v7 stool — dev 부분 성공이 unseen heldout에는 0/10

FurnitureBench | scripts/policy_harness_v7 · results/policy_harness/20260915_native_v7/stool

TL;DR

0/10
Heldout 성공
3/10
2legs 도달
5000
Step 예산

1 배경 / 목적

policy_harness v7(scripts/policy_harness_v7)의 stool 코드 정책 개발 루프는 라운드마다 IK/자세 후보를 수정하며 dev seed(3101, 3102) 2개에 대해 반복 평가해왔다. 개발 예산(round 0–8)이 소진될 때까지 어느 라운드도 "dev 2/2 동시 성공" 기준을 만족하지 못했고, 프로토콜상 예산 소진 시 best round를 동결해 unseen heldout으로 최종 검증하도록 되어 있다. 이번 turn에서 그 heldout 평가가 실제로 완료됐다.

왜 중요한가: dev seed에서 관측된 "3101: 2/3legs, 3102: 3/3legs" 같은 부분 진전이 실제 일반화 능력을 반영하는지, 아니면 두 seed에 대한 국소적 과적합인지가 이번 heldout으로 처음 검증됨. 이전까지는 9101–9110 seed를 한 번도 사용(튜닝)하지 않았음.

2 작업 내용

동결된 v7 stool 정책(policy SHA b71ed823…, round00 계열)을 evaluation_job_id 128492 등 개별 Slurm extra job으로 heldout seed 10개 각각 독립 평가. step 예산 5000, 성공 판정 기준은 dev와 동일(공식 전체 조립 3/3 + 최종 동시 pose 일치).

source: results/policy_harness/20260915_native_v7/stool/heldout/summary.json seeds: 9101–9110 (10개, 이전에 튜닝 미사용) success 판정: assembled_count==3 AND all_currently_matching==True 평가 방식: 각 seed 독립 job, 성공 결과만 추려 재실행하지 않음 (첫 완료 결과 채택)

3 결과

Seed성공Assembled동시일치
9101✗2/3✗
9102✗1/3✗
9103✗1/3✗
9104✗1/3✗
9105✗1/3✗
9106✗2/3✗
9107✗1/3✗
9108✗1/3✗
9109✗1/3✗
9110✗2/3✗

10/10 실패, 3/10만 2legs 도달, 나머지 7/10은 1leg에서 정체. 어떤 seed도 3legs 동시 조립에 도달하지 못했다 — dev seed(3101, 3102)에서 관측했던 "2/3, 3/3" 수준의 진전과 뚜렷한 격차.

핵심 발견: v7 stool 개발 루프가 8라운드에 걸쳐 만든 개선은 dev seed 2개에 국소적으로 맞춰진 것으로 보인다 — 3legs까지 도달한 dev seed 3102조차 unseen seed에서는 어떤 것도 재현되지 않았다(최고치가 2legs에 그침).
비교 참고: 같은 heldout 프로토콜(동결 후 unseen 10 seed 평가, 성공 결과 재실행 금지)로 평가한 demo_icl drawer v4는 7/10=70% — 같은 방법론에서 stool과 drawer 사이에 큰 격차가 있다는 것은 태스크 자체(나사 삽입 vs 서랍 밀어넣기)의 난이도 차이이거나, OSC 목표 전달 버그(다음 카드 참고)가 stool의 정밀 삽입 단계에 더 크게 작용했을 가능성을 시사.

4 Takeaway

의미

v6→v7으로 이어진 "코드를 반복 수정해 IK/자세 후보를 개선"하는 접근은 stool에서 dev seed 과적합 신호가 뚜렷하다. 정책 로직 자체의 정교화만으로는 3-leg 나사삽입을 안정적으로 풀지 못했고, 이는 stool 트랙을 이 상태로 더 밀어붙이기보다 근본 원인(OSC 목표 전달)을 먼저 검증해야 한다는 근거가 된다.

5 Next Steps

미해결 한계

왜 dev seed에서만 2~3legs가 나왔는지 원인 미확인 — 좌표계/초기화 우연 일치인지, 나사삽입 단계의 근본적 정밀도 부족인지 구분 안 됨. heldout 결과는 이 정책을 더 튜닝하는 데 사용하지 않는다(프로토콜상 금지).

다음 실험

v8의 OSC 목표 전달 버그 수정(다음 카드)이 게이트를 통과하면, 같은 v7 round_02 정책을 목표 전달이 교정된 v8 브리지로 재평가해 이번 0/10 결과가 목표 전달 버그 때문이었는지 분리 검증할 예정.