설명용 생성 이미지입니다. 한 줄 요약 Apple Silicon MPS에서 자동회귀 디코드는 종종 활성값을 [B, 1, K] 형태로 F.linear 에 넣습니다. 예전에는 이 모양이 빠른 경로를 벗어나 bf16·fp16에서 크게 느려질 수 있었습니다. PyTorch 2.14는 시퀀스 길이 1 라우팅과 GEMV 커널을 보강해 이 간극을 줄입니다. 맥에서 디코드만 유난히 답답했다면, 모델 구조보다 선형층의 입력 shape를 먼저 의십시오. 배치·시퀀스·특징 차원 표기가 한 칸만 달라도 커널 선택이 갈립니다. 재현하기 쉬운 조건 MPS 장치에서 F.linear 입력 sha

• 자세한 설명과 예시는 원문에서 확인합니다

• 자세한 설명과 예시는 원문에서 확인합니다

• 본문 전문은 DAKER에서 이어집니다

원문: https://daker.ai/community/mps-f-linear-seq-1-decode-trap-fix-pytorch-2-14