설명용 생성 이미지입니다. 한 줄 요약 PyTorch 2.14의 NVGEMM은 Inductor가 mm · addmm · scaled_mm 후보를 고를 때 Triton·ATen과 함께 경쟁하는 CuTeDSL 기반 GEMM 백엔드입니다. max_autotune 아래에서 max_autotune_gemm_backends 에 NVGEMM을 넣어야 켜지며, bias·pointwise·reduction epilogue를 같은 커널에 붙일 수 있습니다. 행렬곱 뒤 activation을 따로 돌리고 있다면, 오늘은 커널이 몇 번 뜨는지부터 세어 보십시오. 후보에 NVGEMM이 없으면

• 자세한 설명과 예시는 원문에서 확인합니다

• 자세한 설명과 예시는 원문에서 확인합니다

• 본문 전문은 DAKER에서 이어집니다

원문: https://daker.ai/community/pytorch-2-14-nvgemm-max-autotune-gemm-epilogue-fus