Projects

X-WAM_MoT

X-WAM의 action/proprio 토큰을 shared trunk에서 분리해 **MoT(Mixture-of-Transformers) 전용 expert 타워**로 옮겼을 때 RoboCasa control 성능(SR)이 오르는지 검증. 비교 앵커: X-WAM arm A (shared trunk, no depth) = **61.0%**, arm B (dept

9 reports 2 weeks
260824 — 260830 3 reports · 9 tables 3
08-24 analysis
Frame Sparsity 곡선 완결
중간 프레임 토큰 0/25/100% 3점 곡선 완결 — 전체 SR은 둔감(57.8/59.6/60.5%, 추세 ns)하나 non-PnP는 유의한 용량-반응(66.0→69.5→71.8%, z=+2.30). 속도 동기는 기각되고 torch.compile이 2.2~3.0배로 훨씬 큰 레버
4 tables
08-24 analysis
X-WAM MoT — Frame Sparsity × torch.compile 추론 속도 재분석
추론 속도 3중 측정(bs1 정책 호출 0.995~1.00×, sparsity 이득 0) 후 torch.compile을 켜보니 그림이 바뀜: eager sparsity 이득은 노이즈였고 정정하면 1.20×, 그러나 compile 자체가 default 2.16×/reduce-overhead 2.99× (767→256ms)로 sparsity보다 2.5배 큰 레버. compile 이후엔 sparsity 이득이 1.00×로 소멸 — 평가 파이프라인의 TORCHDYNAMO_DISABLE=1이 가장 실용적인 다음 조치.
3 tables
08-24 analysis
X-WAM MoT — Frame Sparsity drop_middle 24×50 최종 판정
Frame Sparsity drop_middle(중간 프레임 33% 제거) 24×50 판정: ALL 57.83% vs mot_v1b 60.50% (Δ−2.67%p, z=−1.33, ns → 사전 등록 밴드상 유지). 단 non-PnP −5.75%p(z=−2.49, SIG), CloseSingleDoor −24%p·OpenDrawer −22%p 등 관절 조작 계열은 실재하는 손실. 속도 이득도 학습 기준 1.01×로 사실상 0.
2 tables