분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
Inductor 학습 그래프에도 지역성 재배치로 캐시 효율 향상 — DAKER
DAKER 학습 카테고리에 PyTorch 2.14 Inductor의 reorder_for_locality_in_training 요약이 올라왔습니다. 예전엔 추론에만 돌던 지역성 재배치를 학습 컴파일 그래프에도 켤 수 있고, 기본값은 꺼져 있습니다.
• 학습 그래프에도 지역성 재배치를 켜는 스위치
• 기본 동작을 바꾸지 않으므로 같은 모델·배치에서 전후만 비교하면 되는 점
• 캐시 지역성이 아쉬운 학습 루프에서 스텝 시간과 메모리를 확인하는 방법
원문: https://daker.ai/community/inductor-training-locality-reorder-cache-tune
DACON Co.,Ltd | CEO Kookjin Kim | 699-81-01021
Mail-order-sales Registration Number: 2021-서울영등포-1704
Business Providing Employment Information Number: J1204020250004
#901, Eunhaeng-ro 3, Yeongdeungpo-gu, Seoul 07237
E-mail dacon@dacon.io |
Tel. 070-4102-0545
Copyright ⓒ DACON Co.,Ltd All rights reserved