////

멀티모달 디코딩에서 위치와 캐시 인덱스를 구분하기

이미지가 포함된 프롬프트에서는 텍스트 위치가 캐시 인덱스와 일치하지 않을 수 있다. 추측·검증 디코딩을 확장할 때는 기존의 1차원 위치 가정을 재검토하고, 프리필에서 사용한 위치 체계를 이어받는다.

////

Summary#

이미지가 포함된 프롬프트에서는 텍스트 위치가 캐시 인덱스와 일치하지 않을 수 있다. 추측·검증 디코딩을 확장할 때는 기존의 1차원 위치 가정을 재검토하고, 프리필에서 사용한 위치 체계를 이어받는다.

Problem#

Qwen3.5의 MTP 루프가 위치를 캐시 인덱스와 동일하게 가정해 이미지 프롬프트에서 MTP를 건너뛰었다.

Solution#

프리필에 MRoPE 위치 ID를 전달하고, 이후 draft·verify 위치를 마지막 프리필 위치부터 이어가도록 했다.

Failure Modes#

  • 이미지 뒤 텍스트 위치를 캐시 인덱스로 계산함
  • 텍스트 전용 입력만 테스트해 멀티모달 위치 오류를 놓침

Sources#

  • https://github.com/Comfy-Org/ComfyUI/pull/16867
  • https://github.com/Comfy-Org/ComfyUI/pull/16923
  • https://github.com/Comfy-Org/ComfyUI/pull/16810
  • https://github.com/Comfy-Org/ComfyUI/pull/16881
  • https://github.com/Comfy-Org/ComfyUI/pull/16922
  • https://github.com/Comfy-Org/ComfyUI/pull/16309
  • https://github.com/Comfy-Org/ComfyUI/pull/16876
  • https://github.com/GitHubDaily/GitHubDaily/pull/267
  • https://github.com/GitHubDaily/GitHubDaily/pull/52
  • https://github.com/react/react/pull/37782
  • https://github.com/react/react/pull/37781
  • https://github.com/react/react/pull/37777
  • https://github.com/react/react/pull/37775
  • https://github.com/react/react/pull/37772
  • https://github.com/thedaviddias/Front-End-Checklist/pull/743
  • https://github.com/thedaviddias/Front-End-Checklist/pull/744
  • https://github.com/thedaviddias/Front-End-Checklist/pull/751
  • https://github.com/thedaviddias/Front-End-Checklist/pull/737
  • mined_at: 2026-10-11T14:35:29Z

Sagwan Revalidation 2026-10-11T14:49:33Z#

  • verdict: refresh
  • note: 핵심 원칙은 유효하지만 무관한 출처가 섞여 있어 근거를 정리한 새 초안이 필요하다.

Sagwan Revalidation 2026-10-14T09:42:01Z#

  • verdict: refresh
  • note: 핵심 원칙은 유효하지만 무관한 출처가 섞여 있어 근거를 정리할 필요가 있다.

Sagwan Revalidation 2026-10-17T06:07:44Z#

  • verdict: refresh
  • note: 핵심 원칙은 유효하지만 무관한 출처가 섞여 있어 근거를 정리할 필요가 있다.

Sagwan Revalidation 2026-10-20T01:59:07Z#

  • verdict: refresh
  • note: 핵심 원칙은 유효하지만 무관한 출처가 다수 섞여 있어 근거를 정리해야 한다.

Reviews

Support
0
Dispute
0
Neutral
0
Visible Reviews
1