Index
2026-08-28 — Experiment Result

RoboTwin run2(batch 384 + cosine) 완주 — 하이퍼파라미터 가설 기각

tau-0-wm | RoboTwin 2.0 posttrain 레시피 ablation, job 97294

TL;DR

+16%
정밀도 악화 (run1→run2)
15,000
run2 optimizer step
16h47m
job 97294 총 소요

1 배경 / 목적

전날(260827) 분석에서 run1(54k step, batch 96, constant_with_warmup lr 5e-5)의 action loss가 20k~50k 구간 30k step 동안 −17%밖에 줄지 않아 정체 양상을 보였고, ckpt별 open-loop 정밀도도 42k step 이후 평평했다(2.18→2.30cm, 측정 노이즈 범위). 동시에 학습 레시피가 X-WAM(batch 32, lr 1e-5, cosine→0)· τ₀ 논문(batch 384) 어느 쪽과도 달랐다 — 특히 lr decay가 아예 없었던 점과 배치가 τ₀ 레시피의 1/4이었던 점이 겹쳤다.

이 두 가설(annealing 부재, 배치 부족)을 검증하기 위해 batch 384 + cosine schedule로 15k step 재학습(job 97294, sub_folder run2_cos384)을 전날 제출했고, 당시 카드(260827-robotwin_run2_recipe.html)에는 "현재 RUNNING 1153/15000 step"까지만 기록됐다. 오늘 이 학습이 완주되어 최종 결과가 나왔다.

검증 대상 가설: "42k step 이후 정체는 일정 lr 하의 노이즈 바닥이며, annealing으로 2.2 → 1.9~2.0cm까지 개선 가능하다"(전날 추정, X-WAM 1.31cm에는 못 미칠 것으로 예상).

2 작업 내용

run2 학습이 완주된 뒤, run1과 동일한 방법론(tmp/ckpt_precision.py, 동일 학습 클립 n=140, 동일 open-loop 오차 측정)으로 체크포인트별 정밀도를 재측정해 직접 비교했다.

job 97294 — configs/tau_model/posttrain_robotwin_v2.yaml, sub_folder: run2_cos384 설정: batch 12 × 8 GPU × accum 4 = global batch 384, lr_scheduler: cosine (→0), warmup 500 optimizer step: 15,000 (= 샘플 5.76M, run1 5.18M과 동급), 저장 1500 step마다, 정상 RGB(로더 채널 버그 수정 반영) 실측 소요: 16h 47m, 11개 체크포인트 정상 저장 비교 방법: tmp/ckpt_precision.py, 동일 140개 학습 클립, run1과 완전 동일 프로토콜

3 결과 (수치)

체크포인트설정pos meanstep32rotgrip
run1 step_54000batch 96, 감쇠 없음, 54k 업데이트2.26 cm3.464.6°0.024
run2 step_13500batch 384, cosine, 13.5k 업데이트2.58 cm3.704.8°0.027
run2 step_15000batch 384, cosine(lr→0), 15k 업데이트2.63 cm3.955.2°0.030
업데이트 수를 맞춘 중간 지점 비교(동일 6,000회 업데이트): run2 3.56cm < run1 3.97cm — 같은 업데이트 횟수 기준으로는 큰 배치가 유리했다. 그러나 run1은 54k, run2는 15k에서 학습을 마쳤기 때문에 최종 결과에서는 총 업데이트 수 차이가 배치 이득을 뒤집었다.
가설 기각: lr을 0까지 annealing해도 개선이 없었다 → "42k 이후 정체 = lr 노이즈"라는 전날 추정은 틀렸고, 그 정체는 실제 수렴 한계였다.
부수 확인: run2는 로더 채널 버그가 수정된 정상 RGB로 학습했는데도 run1(R/B 반전 상태로 학습)보다 나쁜 결과 → 채널 버그가 성능에 미친 영향은 미미했다는 260827 결론이 재확인됨.

4 Takeaway

의미

하이퍼파라미터(batch size, lr schedule)는 τ₀-WM RoboTwin 갭의 원인이 아니라는 것이 실험으로 확정됐다. batch 4배 + cosine annealing이라는, 통상 안정적 수렴에 유리하다고 여겨지는 조합이 오히려 정밀도를 16% 악화시켰다는 것은 레시피 튜닝으로 벌 수 있는 여지가 거의 없다는 뜻이다. 같은 샘플 예산이라면 작은 배치로 많이 업데이트하는 쪽이 이겼다는 사실도 확인됐다(동일 업데이트 수에서는 큰 배치가 유리했지만, 예산이 총 업데이트 수로 소진되면서 역전).

결과적으로 260827 진단(하네스·환경 무결, τ₀ 학습-씬 SR 34.8%, open-loop 오차 전 구간 1.4~2.3배 열세)에서 남겨뒀던 "레시피 문제일 수도 있다"는 마지막 가능성이 제거되면서, 갭의 원인은 구조적 요인 (action 표현·해상도·TTC)으로 좁혀졌다.

5 Next Steps

미해결 한계

레시피(lr, batch, schedule) ablation은 소진됐다. 남은 후보 중 어느 것이 실제로 기여하는지는 아직 분리 측정되지 않았다 — action 표현 변경(chunk-relative 20ch → per-step delta 14ch)은 X-WAM과 가장 큰 구조적 차이지만 아직 미착수.

다음 실험

1) action 표현 변경: chunk-relative 20ch → per-step delta 14ch로 재학습, exec=8 receding-horizon도 이 표현에서 재시도(260827 A/B에서는 chunk-relative가 재계획과 궁합이 나빠 SR 37%→12%로 악화했었음). 2) 해상도 192×256 → 256×320 (X-WAM과 동일 픽셀 수). 3) TTC(τ₀ 본 주장) — 현재 레시피/데이터 문제가 해소된 baseline 위에서 검증 시 신호가 더 명확할 것으로 기대. GPU 배분: run2의 50-task 최종 SR 평가는 정밀도가 더 나쁘므로 보류하고, run1의 남은 263 unit 완주를 우선해 baseline 수치를 먼저 확정한다.