PyTorch 2.14에서 ProcessGroup을 nccl2로 열면 torchcomms 집단통신 경로를 기본 분산 스택에서 씁니다. 레거시 nccl과 Work 계약이 어떻게 다른지 작은 월드로 확인해 보십시오.

핵심

• 백엔드 문자열 nccl2로 ProcessGroup 초기화

• eager 커뮤니케이터·논블로킹 Work 계약

• 버전·월드 사이즈·NCCL env를 노트에 고정

자세히 보기: https://daker.ai/community/post-mu3emq0u-130369ca