CUDA Graph Trees에서 세대가 바뀌면 이전 세대의 사용자 출력 텐서가 끊길 수 있습니다. cudagraph_trees_generation_cloning을 user_visible로 켜면 세대가 넘어가도 출력이 살아 있습니다.

핵심만 먼저 보면 다음과 같습니다.

• Inductor CUDA Graph Trees에서 세대가 바뀌면 이전 세대 사용자 출력 텐서가 끊길 수 있습니다

• torch._inductor.config.triton.cudagraph_trees_generation_cloning을 user_visible로 켜면 출력이 유지됩니다

• 세대 넘김이 잦은 컴파일 구간에서 출력 생존을 확인할 때 참고하세요

원문 전체는 DAKER에서 확인할 수 있습니다.

https://daker.ai/community/cudagraph-trees-gen-cloning-user-visible-output