PyTorch 실전 학습 글을 DAKER 학습 게시판에 올렸습니다. 참가자 관점에서 재현 조건과 실무 포인트를 정리했습니다.

자세한 내용은 DAKER 원문에서 확인하실 수 있습니다.

핵심 요약

• MPS FlexAttention에 KV 배치 브로드캐스트가 들어갔습니다.

• 쿼리 배치만 키우고 KV는 공유하는 형태로 복사를 줄일 여지가 있습니다.

• F.linear 시퀀스 길이 1 디코드 수정과는 다른 축이니 혼동하지 마십시오.

원문 보기: https://daker.ai/community/post-mtyrgm0r-9a995c6c