← 목록
2026-09-22 · scene_bench · gemini-3.7-flash · resume 161행 · API $0

resume 실패의 통합 진단 — "한 일"의 흔적이 장면에 남는가

개입이 전부 실패했으므로, 무엇이 실패하는지를 행 단위로 끝까지 분해했다

TL;DR

98%
오라클 완료 계수 정확
43%
rf-v3 "아무것도 안 함"
+0.07
vis-pure 옮기기 Δ
−1.32
rf-v3 누름 Δ
38:6
과대:과소

1 실패 버킷 분해 (161행)

전략resume_ok기권군더더기만미지목복합개수만틀림
blind.062901211038
textlog(오라클).789260503
frames-uniform.155312517360
rollforward-v3.174222928945
rollforward-vis-pure.199381924146
tagmem-r3.211203026249
append(절제).186333716540
정정: 스모크 14행에서 "심부름 오보고가 지배적"이라 했던 것은 표본 편향이었다. 161행에서는 개수만틀림(45) ≳ 군더더기(29) ≈ 미지목(28) 으로 세 버킷이 비슷하다.

2 개수는 거의 언제나 과대다 — 곧 "한 일을 놓쳤다"

전략과대(남은 걸 더 크게)과소
rollforward-v3386
rollforward-vis-pure3111
tagmem-r3329
frames-uniform3312
textlog02

Δ = (모델이 끝났다고 본 단위 수) − (실제 끝낸 단위 수 m). 질의 데이터의 pending[0].n / m 을 직접 썼다.

전략n평균 Δ완전 무시 (Δ=−m, "아무것도 안 함")정확 (Δ=0)
blind52−1.1233 (63%)11
textlog84+0.04082 (98%)
frames-uniform76−0.4515 (20%)31
rollforward-v375−0.7632 (43%)31
rollforward-vis-pure76−0.3315 (20%)34
tagmem-r379−0.3816 (20%)38
append(절제)76−0.8233 (43%)33

3 결정적 — 흔적이 남는 유형에서만 이미지가 이긴다

전략담기 (통에 쌓임)옮기기 (위치 바뀜)누름 (흔적 없음)방문 (흔적 없음)
textlog0.000.000.00+0.20
rollforward-vis-pure−0.25+0.07−0.96+0.21
tagmem-r3−0.41+0.06−1.00+0.50
frames-uniform−0.69−0.20−0.70+0.25
rollforward-v3−0.81−0.50−1.32+0.62
append(절제)−0.67−0.71−1.32+0.14
blind−1.24−0.27−1.65−0.33
상태가 남는 유형(옮기기)에서 이미지 전략은 거의 완벽하다(+0.07 · +0.06). 텍스트는 −0.50 ~ −0.71. frames-uniform(균등 8장, writer 없음)조차 rf-v3 보다 낫다(−0.45 vs −0.76) — writer 의 정교함이 아니라 채널이 가른다.
흔적이 없는 유형(누름)은 전 전략 실패(−0.96 ~ −1.32). 이미지도 못 구한다. 누름 개입 5전 5패(v3c · append · 팔 접기 · 밀도 3배 · 발화 주입)가 여기서 설명된다 — 개입들이 전부 표현 방식을 건드렸지 증거의 부재를 건드리지 못했다.

4 군더더기의 정체도 같은 원인

군더더기로 올라온 finished[] 항목의 type (rf-v3):

open_fixture 11 · fetch_one 10 · close_fixture 9 · put_in_container 3 · press_button 3 · move_objects 2 · … textlog(오라클): 0건
냉장고를 열었다 닫으면 컷 시점 장면에 아무 흔적이 없다 → "그 심부름은 아직 안 했다"로 읽힌다. 군더더기 = 되돌려지거나 흔적을 안 남기는 행동의 완료 미기록이고, §2·§3과 같은 원인이다.

4.5 텍스트는 예산을 장면에 쓴다 — 오라클과 직접 대조

train_4915:cut_10 — microwave 5회 중 2회 완료. 두 메모리가 같은 편, 같은 컷을 본다.

오라클 textlog — 한 줄 = 한 완료 단위, 반복은 반복대로:

[ 312s– 376s] I did this: Pick up the apple from the dresser and place it into the basket. [ 376s– 411s] I did this: Press the button on the microwave. [ 411s– 419s] I did this: Press the button on the microwave. ← 두 줄 = 2회 [ 433s– 443s] I did this: Go check whether the cup is still on the countertop in the kitchen.

rf-v3 메모리 — 같은 컷:

… On the countertop are an egg, a bowl, an atomizer, a vase, a microwaveoven, a butter knife, a cup, and a soapdispenser. After briefly reaching toward the microwaveoven and turning around (glimpsing a room with a TV on a tv stand and a small table), I turned back to face the kitchen countertop.
누름이 없다. 대신 조리대 위 물건 8개를 나열한다.

전 행 집계 (단일 pending 100행 · rf-v3 메모리 평균 102 단어)

평균 / 행
실제 완료 단위1.93 개
완료 동사 (placed·dropped·pressed…)1.03 회
접근·시도 동사 (reached toward·turned·approached…)1.26 회
장면 묘사 (there was·holding·containing…)4.02 회
반복·개수 표현 (one by one·N times·leaving…)1.27 회
완료 : 장면 = 1 : 3.9. 오라클은 같은 분량(136 단어)에 완료 사건만 7.2줄을 담는다.
왜 이렇게 쓰나 — writer 가 task-agnostic 이기 때문이다. preamble v2 가 명시한다: "where something is now, where it was earlier, how far the robot got, or where things tend to be put away." 한 덩어리 텍스트로 4가족을 감당해야 하니 장면 묘사가 예산을 가져간다. type2 힌트는 "a second press of the same button … is another event, not the same fact again" 이라고 명시적으로 세라고 말하는데도 그렇다 — v3c(횟수 세기 지시) .174→.143 실패와 같은 결과다.

이미지에는 이 예산 충돌이 없다. 한 프레임이 장면과 상태 변화를 동시에 담는다. 바구니에 감자가 3개 쌓인 사진은 "무엇이 어디 있나"와 "몇 개 했나"를 한꺼번에 답한다. 텍스트는 둘 중 하나를 골라야 하고, task-agnostic writer 는 장면을 고른다. §3의 원인이 이것이다.

5 Takeaway

① 완료의 증거는 상태 변화에 실려 있다. 물건이 통에 들어가면 화면에 남는다 → 이미지 메모리가 보존한다. 텍스트 요약은 개수를 명시적으로 세어 적어야 하는데, 재작성도 누적도 그걸 잃는다(43%가 "아무것도 안 함").
② 기대와 반대다. "실행 이력은 텍스트가 낫다"가 직관이지만 resume 에서는 이미지가 이긴다. 이것이 표의 순위(tagmem .211 > vis-pure .199 > rf-v3 .174)의 실체다.
③ 흔적 없는 행동은 어떤 메모리로도 못 센다. 오라클 격차 .789 vs .211 의 상당 부분이 여기서 온다.
④ 연산자 축은 직교한다. 재작성이든 누적이든 텍스트면 똑같이 진다(−0.76 vs −0.82) — append 절제가 p=.856 으로 귀무였던 이유다.

6 다음

근거 전문: claude/260922/analysis-resume_completion_evidence.md