분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
Inductor 학습 그래프에도 지역성 재배치로 캐시 효율 향상 — DAKER
DAKER 학습 카테고리에 PyTorch 2.14 Inductor의 reorder_for_locality_in_training 요약이 올라왔습니다. 예전엔 추론에만 돌던 지역성 재배치를 학습 컴파일 그래프에도 켤 수 있고, 기본값은 꺼져 있습니다.
• 학습 그래프에도 지역성 재배치를 켜는 스위치
• 기본 동작을 바꾸지 않으므로 같은 모델·배치에서 전후만 비교하면 되는 점
• 캐시 지역성이 아쉬운 학습 루프에서 스텝 시간과 메모리를 확인하는 방법
원문: https://daker.ai/community/inductor-training-locality-reorder-cache-tune
데이콘(주) | 대표 김국진 | 699-81-01021
통신판매업 신고번호: 제 2021-서울영등포-1704호
직업정보제공사업 신고번호: J1204020250004
서울특별시 영등포구 은행로 3 익스콘벤처타워 901호
이메일 dacon@dacon.io |
전화번호: 070-4102-0545
Copyright ⓒ DACON Co.,Ltd All rights reserved