ScholarWorks@서강대학교

상세 보기

LLM 서빙시 Head-of-Line 블로킹 완화를 위한 SLM 기반 LLM 출력 길이 예측 및 스케줄링 기법

제목
LLM 서빙시 Head-of-Line 블로킹 완화를 위한 SLM 기반 LLM 출력 길이 예측 및 스케줄링 기법
저자
김영재
발행일
2025-12-16
학회명
한국소프트웨어종합학술대회

ScholarWorks@서강대학교

04107 서울특별시 마포구 백범로 35 (신수동) 서강대학교 Tel. 02-705-8114

COPYRIGHT © 서강대학교 All Rights Reserved.

Certain data included herein are derived from the © Web of Science of Clarivate Analytics. All rights reserved.

You may not copy or re-distribute this material in whole or in part without the prior written consent of Clarivate Analytics.