← Index
2026-10-14 — Plan

AD^ε식 "실패 → 회복 → 성공" 데이터셋 + 손실 마스킹

RoboTTA | Long-WAM p768

TL;DR

768
history frames (≈38 s)
1:1
원래:AD 초기 비율
4
ablation arms

1배경/목적

원래 데이터셋 학습은 유지하면서 AD처럼 자기 개선 데이터를 섞는다. AD의 전체 학습 이력은 너무 길어서, AD^ε처럼 노이즈로 실패시킨 뒤 회복하는 짧은 궤적을 합성한다. 실패 구간은 학습하면 안 된다.

2작업 내용

[시도1: expert+ε → 실패] [실패 인지+후퇴] [시도2: 수정된 expert → 성공] └── 컨텍스트 전용(loss 없음) ──┘└────── loss 대상 ──────┘
회복 라벨 방법장점문제
B1 특권 expert 재실행 (추천)임의 state에서 라벨 생성후퇴/재접근 모드 구현 필요
B2 정책 rejection sampling정책 분포와 가까움성공률 0.14~0.30, 비쌈
B3 demo 이어붙이기시뮬 불필요물리적으로 불연속
ε_iid(실행 노이즈)는 견고성용, ε_bias(숨은 변수 오인: 구멍 위치 편향 등)는 컨텍스트 학습용. 실패 방향이 정답 수정 방향과 상관되어야 한다.

학습: episode 메타에 loss_start_frame을 넣고, AD 데이터는 그 이후 frame만 anchor로 쓴다. 원래 데이터와 1:1 가중 샘플링, p768 통일.

3결과

실행 전. longwam_base.py:978에서 video loss가 [:, :, M:]에만 걸리는 것을 코드로 확인했다.

4Takeaway

모델 수정 없이 데이터와 샘플러만 바꾸면 된다. 성패는 ε 설계에 달려 있다.

5Next

테스트베드 선택 → 숨은 변수 정의 → expert 후퇴/재접근 + ε 생성기 → 50 ep 생성 후 확인 → anchor 필터 + 단위 테스트 → ablation (원래만 / +ε_iid / +ε_bias / +ε_bias인데 실패 구간에도 loss).