← 목록
2026-09-05 · scene_bench · analysis

HF v1.1 릴리즈(609076c0) 델타 — moved distractor 47편 + restore ② 196행

허브 최신 커밋을 행 단위로 대조해 재측정 범위·비용·하네스 수정 범위를 확정하고 재측정 캠페인 착수(오픈 3종 즉시 + API KST 4일 분할)

TL;DR

47
재렌더 편
196
restore_distractor 신규
+65 / −64
find 행 추가/삭제
621
47편 재측정 행(find 276+restore 345)
≈$310
API 4모델 추정

1배경 · 목적

사용자가 distractor를 ①내가 옮긴 것 / ②보기만 한 것으로 나누는 추가 데이터를 허브에 올렸고, 컨텍스트 ~50편이 수정됐다고 알려 옴(목록 relocation_json_47eps.tgz). 격자는 4가족 × [Direct ①/②/③ hidden] + [Stateful ①=①의 다중 / ②=②의 다중]. 질문: 새 컨텍스트는 재측정하고, 기존 find/restore 결과는 격자에 맞게 재정비해야 하는가?

답을 내려면 "무엇이 실제로 바뀌었나"를 파일·행 단위로 확인해야 한다 — 카드 문구("find is unchanged")를 그대로 믿지 않고 sha·행 내용을 대조했다.

2확인 방법

3결과 — 무엇이 바뀌었나

3a. 릴리즈 대조

항목bcaf2815609076c0 (v1.1)비고
type1 편10010047편 변경(videos·traj.h5·final.npz·meta), subtasks.json 불변
meta.json1.01.1(47편)relocated[](obj·moves frame/xyz·tracked_in_v1), rerender, derived_from
restore 행322518322 = restore_target 개명(동일, id 재번호 38) + restore_distractor 196(전부 47편·single)
find 행589590내용 일치 525(id 재번호 18) · 삭제 64 · 추가 65(무변경 53편에 44, 47편에 21) · GT 변경 1(train_8077__2 bowls 2→3)
find kind294 T / 295 D301 T / 289 Dmulti 54→91: 쌍둥이 단일 distractor → "all the X" multi 전환(추가 65 중 multi 40), not_moved 10행 폐기, 픽 실패 물체 무질의
find 답 필드—visible_at_start·visible_px_at_start정식 가시 라벨(시작 프레임 3캠 max, ≥50 px). 행 any: target 98/301 · distractor 58/289
resume48+96동일type2 12편 불변(미측정 그대로)

3b. restore_distractor 196행 프로필

origin first 139 · previous 57 n_hops 2회 이동(두 번 목격) 109 · 1회 87 restaged_start 113 (시작 자리도 우리가 배치) from concealment 전부 open · visible_at_start True 40 / False 156 · same_room 42 twin_nearby 0 · n_candidates 전부 1 (클래스 유일 필터 = 260903 (a)안) 편당 행 수 1–9, 중앙 4 · 이동 물체 164 중 질의 83 (나머지는 pick/place 자격 탈락, 영상엔 이동 있음) 문장 "Pick up the {name} and place it in or on where it first was / was just before"
260903 설계와 일치. "A 목격 → 못 본 이동 → B 재목격 → 처음 자리로(정답 A, 미끼 B)" — n_hops 2가 109행. 같은 물체의 find 행은 없으므로(정답이 이동 물체인 find 행 0) find와 독립(shares_answer_with 빈 값).

3c. 격자 셀 매핑 (609076c0 행 수)

가족Direct ① 내가 한 것Direct ② 보기만 한 것Direct ③ hiddenStateful ①Stateful ②
Findfind_target single 265
open 220 + hidden 45
find_distractor single 234
open 229 + hidden 5
hidden 답 포함 68
①②S와 겹침 → 본표 제외(260831)
find_target multi 36find_distractor multi 55
Restorerestore_target single 243
hidden 28
restore_distractor single 196—restore_target multi 79
hidden 28
0 (v1.1 미포함)
Stateful multi의 뜻이 가족마다 다르다. find multi 91/91은 같은 클래스 쌍둥이 묶음(2–3개, "all the cups")이고 restore multi 74/79는 서로 다른 물체 2–3개. 논문에서 find multi를 twin-set으로 표기하거나, 데이터팀에 이종 multi를 요청해야 한다.

3d. find 변경 원문 (샘플)

REMOVED find:train_1362__0:q04 find_distractor single "Pick up the watch" ADDED find:train_1362__0:q04 find_distractor multi "Pick up all the cups" ← 같은 id, 다른 질의 (재번호) REMOVED find:train_3426__1:q03 find_distractor single "Pick up the watch" ADDED find:train_3426__1:q03 find_distractor multi "Pick up all the watches" ← 쌍둥이 단일 → multi REMOVED find:train_2169__1:q00 find_distractor multi "Pick up all the butter knives" [not_moved, no] ADDED find:train_2169__1:q00 find_target single "Pick up the butter knife I moved earlier" ← 픽 실패 물체 제거 후 target으로 REMOVED find:train_3679__1:q00 find_distractor single "Pick up the remote control" [not_moved] ← not_moved 폐기

4재측정 범위 · 비용

대상메모리질의근거
재렌더 47편전 전략 재작성(ingest)find 276 + restore 345(target 149 + distractor 196) 전부영상이 바뀌어 메모리 내용이 달라짐. textlog·blind·frames도 질의 프레임·샘플 프레임이 재렌더 대상일 수 있어 재질의
무변경 53편재사용(--memory-from)find 신규 44행만기존 find 270·restore 173행은 id 매핑 후 재채점(GT 변경 1행 포함), find 삭제 64행 제거
앵커: 15편 find 전량 재측정(7전략 · API 4모델) = $69.28 → 편당 ≈$4.6 restore 322행 읽기 전용 = ≈$57–85 → 행당 ≈$0.2–0.26 추정: 47편 find+ingest ≈$217 + restore 345행 ≈$80 + find 44행 ≈$12 ≈ $310 (API 4모델) → $80/일 캡 기준 KST 4일. 오픈 3종 ≈ 8 GPU·h, $0 (먼저 돌릴 수 있음)
textlog 오라클은 47편에서 세계 이동을 모른다. 원천 subtasks.json(로봇 자기 행동 로그)이 불변이므로 restore_distractor에서 textlog는 정의상 실패. 이것은 하네스 결함이 아니라 Direct ②가 "관찰 증거"열이라는 설계의 귀결 — 논문에서는 ②열의 오라클을 비우거나 "action-log oracle N/A"로 표기.

5하네스 수정 범위 (소규모)

6Takeaway · Next

사용자 판단이 맞다. 47편은 영상이 바뀌어 메모리부터 다시 써야 하고, 나머지는 재채점·재편성으로 충분하다. 다만 find는 "unchanged"가 아니라 65행 추가/64행 삭제(쌍둥이 단일→multi 전환)라 표의 행 구성 자체가 바뀐다. Restore ②(Observed displacement)가 실데이터 196행으로 생겼고 Stateful ②는 아직 없다.

원천: tmp/hf_check/{inspect_latest,diff_609076c0,match_609076c0,download_609076c0}.py, tmp/reloc47/{hub_changed,eval_diff,eval_match}.json. 로그 claude/260905/analysis-v11_release_delta.md.

7결정 · 착수 (KST 9/6 00:40)

9/6 재조정(사용자). v1.1은 restore 전용: find 본표는 v1.0 결과(e987b40f 589행)를 그대로 쓰고, 47편 find 재측정분은 부수 ablation(v1.0 메모리 .656 → v1.1 메모리 .571, flash-3.7 vis-pure)으로만 보관. 남은 API 잡은 restore만 재도록 재제출(luna 111191 + sonnet 111192, KST 9/7 00:05, 7전략), flash-3.6 보류. 아래 표는 착수 시점 계획.
재채점 함정 발견·수정. 방 이름 대응표(room_name_map)가 컨텍스트에 주입된 질의 행(근거)에 의존한다. 재채점이 restore 행만 주입하자 toilet의 방이 kitchen↔bathroom으로 흔들려 3행이 오재채점됐다 → 러너처럼 두 가족 행을 전부 주입하도록 수정, restore 재채점 변경 0. find는 4질의 28행 드리프트(bowls 2→3 정당 1, not_moved 행 삭제로 근거 소실 2, 새로 유도 1) — 근거 의존성은 기록.
잡내용시작추정
110732 / 110733 / 110734 v11open_{qwen3vl8b,cosmosr2,molmo2}47편 두 가족 전량(4샤드) && 캐시 43행(2샤드)15:37 UTC 세 잡 RUNNING≈3 h/모델 · $0
110735 v11_flash377전략 전량 + 캐시즉시 (KST 9/6)≈$70
110736 v11_luna · 110737 v11_sonnet_a(blind,textlog,frames,rf-v2) · 110738 v11_flash36_a(blind,textlog)예약09-06 15:05 UTC (KST 9/7)≈$11 + $47 + $8
110739 v11_sonnet_b(rf-v3,vis,tagmem) · 110740 v11_flash36_b(frames,rf-v2)예약09-07 15:05 UTC (KST 9/8)≈$43 + $27
110741 v11_flash36_c(rf-v3,vis,tagmem)예약09-08 15:05 UTC (KST 9/9)≈$53

전부 --qos=extra(own은 타 프로젝트 잡이 CPU 112 점유). 선점되면 같은 명령 재제출로 편 단위 체크포인트에서 이어간다. 완료 후 merge_v11.py <tag> → grid_v1final.py v11 find nohidden / v11 restore.