Index
2026-09-15 — Analysis

Zero-WAM 공개 릴리스 확인 + 평가 기준 충돌

Zero-WAM | 5a8a2da → 08e2c4a (force-push, orphan commit)

TL;DR

88
Files (was 5)
+13,057
Lines
37.1 GB ×2
Checkpoints
326.8 GB
HumanGen
2 / 7
Tasks w/ changed criteria

1 배경 / 목적

9/9 clone 시점의 main은 README·LICENSE·그림 2장뿐이었다. README에는 "Code/Model/Data before Sep 15, 2026"이라고 적혀 있었다. 9/15 git pull에서 forced-update가 일어나 저장소가 새 orphan 커밋 08e2c4a "Initial public release"로 교체됐다. 공개 범위를 확인하고, 9/9 분석(자체 LingBot-VA 27.86%, move_stapler_pad 미재현)에 영향을 주는 변경이 있는지 점검했다.

기존 한계: move_stapler_pad 자체 1.00% vs 논문 23.33%(−22.33pp)의 원인을 판별하지 못해 "근거로 쓰지 말 것"으로 보류해 둔 상태였다.

2 작업 내용

git : reflog 이전 HEAD 5a8a2da ↔ 08e2c4a diff, merge-base 없음, gh-pages는 이번 pull에서 변경 없음 코드 : diff --stat, 신규 모듈 outline, 로컬 lingbot-va/wan_va 와 diff -rq 프로토콜: evaluation/robotwin/envs/*.py ↔ 로컬 RoboTwin/envs/*.py diff, 논문 main.tex 각주 대조 HF : /api/models, /api/datasets ?blobs=true 로 공개 여부 + 용량 확인

3 결과

3.1 공개된 코드 구성

경로내용
wan_va/modules/icl_model.py1,394줄. WanICLTransformer3DModel, ICL attention mask(target→ICL, ICL↔ICL 양방향), ICL KV cache
wan_va/mcp.pyMCP 4 modules, loss [0.5,0.25,0.15,0.1], future_chunk_stride=2 (in-context future chunk prediction 구현으로 보임)
wan_va/dataset/icl_lerobot_latent_dataset.pymanifest 기반 robot↔human latent 페어링. unseen 7태스크를 제외하고 43태스크가 아니면 에러
wan_va/dataset/dataset_mixture.pyDATASETS="robotwin:1.0,agibot:1.0,…" 가중 샘플링
wan_va/wan_va_server.py / train.py추론 서버(ICL latent 로드 또는 인코딩 후 cache) / 학습 루프
evaluation/robotwin/websocket client, 단일·8-GPU launcher, calc_stat.py, 수정 env 2개, 태스크별 고정 human video(kling-v3 생성)
tests/12개 (ICL dataset/model/server, mixture, config, training alignment)

LingBot-VA 포크이며 wan_va 패키지 구조가 같다. model.py 326줄, wan_va_server.py 593줄, train.py 780줄이 달라졌다. 추론 기본값은 ICL_CFG=5, TARGET_TEXT_CFG=-1, attn_window=64, frame_chunk_size=2, ICL 영상 320×480 @12fps. 학습 기본값은 lr 1e-4, 50K steps, drop_icl=0.1, droptext_target=0.4. 테스트 환경은 Python 3.10, torch 2.9.0 cu126, lerobot 0.3.3, RoboTwin 2eeec322.

3.2 Hugging Face 공개 현황

Repo생성크기구성
Robbyant-Research/zero-wam-pretrain09-1337.1 GBtransformer 8 shards + text encoder + VAE
Robbyant-Research/zero-wam-posttrain-robotwin09-1337.1 GBtransformer 15 shards + text encoder + VAE
Robbyant-Research/HumanGen (dataset)09-13326.8 GBrobotwin_data 17.2 (unseen 7태스크 포함) · human_latents 35.2 · human_data 69.2 · agibot 31.5 · interna1 70.9 · robocoin 73.0 · robomind 22.9 · oxe 6.7
비공개: HumanGen 생성 파이프라인 코드, Task-diverse VA 데이터, HumanGen in-house/real-world 서브셋, 실로봇 평가 코드. README에 따르면 공개 posttrain 체크포인트는 비공개 데이터까지 섞어 학습한 것이라 공개 데이터만으로는 재현되지 않는다.

3.3 ⚠️ unseen 태스크 성공 조건 변경

INSTALL.md와 논문 각주(main.tex:879–883, "We apply the same modified criteria to all methods")에 따르면 논문 표의 모든 방법이 아래 수정 기준으로 평가됐다.

태스크upstream RoboTwin (자체 평가에 사용)Zero-WAM 수정본 (논문 수치)
move_stapler_pad위치 |Δ| < (2, 2, 1) cm + yaw 정렬(|q| max−min < 0.02) + 그리퍼 openxy가 pad(±5.5×±3.0 cm) + 2.5 cm margin 안 + pad 접촉 + 그리퍼 open, yaw 무관
stamp_sealxy 허용오차 1 cmxy 허용오차 3 cm

로컬 ~/repos/Robotics/RoboTwin의 두 파일은 수정 없음(git status clean, 마지막 변경 cdfdffe 2025-07-10)이다. 자체 결과 eval_result/*/LingBot_VA도 이 체크아웃에서 나왔다.

태스크LingBot-VA 논문 (수정 기준)LingBot-VA 자체 (upstream 기준)Zero-WAM 논문
Move Stapler Pad23.331.0069.14
Stamp Seal3.674.0047.00
핵심 발견: move_stapler_pad의 −22.33pp 미재현은 학습 차이보다 성공 조건 차이로 먼저 설명된다. upstream은 yaw까지 맞춰야 성공이고, 논문 기준은 pad 위에 놓기만 하면 된다.

4 Takeaway

의미

  • 수정 기준은 사실상 더 느슨하다(stamp_seal은 엄밀한 상위집합). 따라서 자체 LingBot-VA macro 27.86%는 논문 프로토콜 기준으로 과소평가일 수 있다. "논문 language baseline이 약하게 보고됐다"(관측 6)는 오히려 강화될 수 있다.
  • stamp_seal 언어 실패(관측 8)는 유지된다. 엄격한 기준에서 4.00%이므로 느슨한 기준 값은 ≥4.00%지만, 47.00%와 비교하면 여전히 낮을 가능성이 크다.
  • 공개 posttrain 체크포인트와 ICL_HUMAN_VIDEO_MAP override가 생겨, 미해결이던 video 대조군(무관 태스크 영상 등)을 재학습 없이 실행할 수 있다.

5 Next Steps

1. 자체 LingBot-VA를 수정 기준으로 재평가

move_stapler_pad, stamp_seal 각 n=100. RoboTwin envs를 .upstream으로 백업하고 교체한다. 가설: move_stapler_pad 1.00% → 두 자릿수 %. 결과가 나올 때까지 두 태스크의 자체-vs-논문 비교는 보류한다.

2. 공개 체크포인트로 Zero-WAM 7태스크 재현

run_icl_eval.sh(8 GPU, sbatch)로 논문 46.95%와 대조한다. 이어서 ICL_HUMAN_VIDEO_MAP에 무관 태스크 영상을 넣어 place_bread_basket Δvideo −28.92pp를 검증한다.

3. RoboTwin revision 점검

로컬 96c1fea에서 테스트 rev 2eeec322이 조상으로 확인되지 않는다. 재평가 전에 태스크 코드 차이를 확인한다. stamp_seal 프롬프트 재작성 실험도 수정 기준으로 돌려야 비교할 수 있다.