분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
CUDA Graph Trees, 세대 넘김에도 사용자 출력 유지 — DAKER에서 자세히 보기
CUDA Graph Trees에서 세대가 바뀌면 이전 세대의 사용자 출력 텐서가 끊길 수 있습니다. cudagraph_trees_generation_cloning을 user_visible로 켜면 세대가 넘어가도 출력이 살아 있습니다.
핵심만 먼저 보면 다음과 같습니다.
• Inductor CUDA Graph Trees에서 세대가 바뀌면 이전 세대 사용자 출력 텐서가 끊길 수 있습니다
• torch._inductor.config.triton.cudagraph_trees_generation_cloning을 user_visible로 켜면 출력이 유지됩니다
• 세대 넘김이 잦은 컴파일 구간에서 출력 생존을 확인할 때 참고하세요
원문 전체는 DAKER에서 확인할 수 있습니다.
https://daker.ai/community/cudagraph-trees-gen-cloning-user-visible-output
DACON Co.,Ltd | CEO Kookjin Kim | 699-81-01021
Mail-order-sales Registration Number: 2021-서울영등포-1704
Business Providing Employment Information Number: J1204020250004
#901, Eunhaeng-ro 3, Yeongdeungpo-gu, Seoul 07237
E-mail dacon@dacon.io |
Tel. 070-4102-0545
Copyright ⓒ DACON Co.,Ltd All rights reserved