PyTorch 2.14부터 torch.while_loop를 CUDA 그래프에 담을 수 있습니다. 조건은 부모 스트림에서 평가되고, 본문 끝에서 다시 검사되는 CUDA while 노드로 이어집니다.

가변 길이 인덱스·패킹 시퀀스처럼 반복 횟수가 런타임에 정해지는 구간을 캡처 밖으로 밀어내지 않아도 됩니다.

핵심만 먼저 보면 다음과 같습니다.

• while_loop를 그래프에 넣는 조건 평가·재검사 흐름

• 가변 trip count 구간을 캡처 안에 유지하는 이유

• 캡처 전후 스텝 시간과 동기화 횟수 비교 방법

원문 전체는 DAKER에서 확인할 수 있습니다.

https://daker.ai/community/torch-while-loop-cuda-graph-dynamic-loop-capture