AOTInductor 공유 객체 가중치를 페이지 가능 동기 복사로 올리면 라이브 멀티 스트림 추론이 멈출 수 있습니다.

핀드 비동기 상수 복사(AOTInductorSetUsePinnedAsyncConstantsCopy)를 생성 전에 켜는 조건을 DAKER 학습 글에 정리했습니다. 외부 상수 공유 글과는 다른 주제입니다.

• 생성 전 enable / 환경 변수

• 호스트 복사와 디바이스 전송 겹침

• AOTI_LOG_LOADING 마커 확인

자세히 보기: https://daker.ai/community/post-mu5x4qsl-b1c794b8