DAKER 학습 게시 요약입니다. torch.switch로 다중 분기를 한 번에 올려 MoE·인덱스 디스패치를 중첩 cond 없이 추적합니다

핵심

· torch.switch로 n-way 분기를 한 번에 올립니다.

· MoE·인덱스 디스패치에서 중첩 cond 그래프를 줄입니다.

· 같은 입력으로 그래프 크기·스텝 시간을 비교해 보십시오.

자세히 보기: https://daker.ai/community/post-muewk38g-9cea65b5