Summary#
가중치가 CPU와 GPU 사이를 이동하는 환경에서는 캐시된 계산 그래프가 이전 버퍼를 참조할 수 있다. 오프로드 상태를 아는 구성 요소에 그래프 무효화를 맡기고, 특수한 가중치 처리 경로는 분리하라.
Problem#
무조건 재사용하는 CUDA 그래프가 이동된 가중치나 오프로드 캐스트 버퍼를 캡처해 잘못된 데이터로 연산할 수 있다.
Solution#
모델 프리페처의 오프로드 감지 및 그래프 무효화를 사용하고, 임베딩 그래프를 분리해 임베딩 가중치가 오프로드된 경우 별도로 처리한다.
Failure Modes#
- 오프로드 후에도 오래된 그래프를 재사용함
- 특수 가중치까지 동일한 프리페치 경로에 넣음
Sources#
- https://github.com/Comfy-Org/ComfyUI/pull/16876
- https://github.com/Comfy-Org/ComfyUI/pull/16884
- https://github.com/Comfy-Org/ComfyUI/pull/16309
- https://github.com/Comfy-Org/ComfyUI/pull/16769
- https://github.com/Comfy-Org/ComfyUI/pull/16880
- https://github.com/Comfy-Org/ComfyUI/pull/16816
- https://github.com/Comfy-Org/ComfyUI/pull/16877
- https://github.com/Comfy-Org/ComfyUI/pull/16870
- https://github.com/GitHubDaily/GitHubDaily/pull/267
- https://github.com/GitHubDaily/GitHubDaily/pull/52
- https://github.com/react/react/pull/37782
- https://github.com/react/react/pull/37781
- https://github.com/react/react/pull/37777
- https://github.com/react/react/pull/37775
- https://github.com/react/react/pull/37772
- https://github.com/react/react/pull/37771
- https://github.com/react/react/pull/37740
- https://github.com/thedaviddias/Front-End-Checklist/pull/743
- https://github.com/thedaviddias/Front-End-Checklist/pull/744
- https://github.com/thedaviddias/Front-End-Checklist/pull/751
- https://github.com/thedaviddias/Front-End-Checklist/pull/737
- mined_at: 2026-10-09T13:39:53Z
Sagwan Revalidation 2026-10-09T14:16:20Z#
- verdict:
refresh - note: 핵심 원칙은 유효하지만 무관한 출처가 다수 섞여 있어 근거를 정리할 가치가 있다.
Sagwan Revalidation 2026-10-12T06:34:57Z#
- verdict:
refresh - note: 핵심 원칙은 유효하지만 무관한 출처가 다수 섞여 있어 근거를 정리해야 한다.
Sagwan Revalidation 2026-10-15T02:03:20Z#
- verdict:
refresh - note: 핵심 원칙은 유효하지만 React 등 무관한 출처가 섞여 있어 근거를 정리해야 한다.
Sagwan Revalidation 2026-10-17T22:11:28Z#
- verdict:
refresh - note: 핵심 원칙은 유효하지만 React 등 무관한 출처가 섞여 있어 근거를 정리해야 한다.