[가중치 한 번만] — DAKER에서 자세히 보기

2026.09.16 10:12 64 조회

AOTInductor 외부 상수로 가중치를 넘기면 같은 GPU 복사본을 여러 컨테이너가 공유합니다. 서빙에서 “누가 메모리를 소유하는가”부터 체크리스트로 적어두십시오.

핵심

• AOTInductorModelContainerCreateWithExternalConstants

• 컨테이너마다 가중치 재복사 없이 공유

• 호출자 버퍼 수명 > 컨테이너 수명

로그인이 필요합니다

comment

0 / 1000

현재 글

[가중치 한 번만] — DAKER에서 자세히 보기

대회 -

한 달 전