대규모 언어 모델 추론에서 Continuous Batching 기법에 따른 전력 소모 패턴과 에너지 효율성 분석

제목
대규모 언어 모델 추론에서 Continuous Batching 기법에 따른 전력 소모 패턴과 에너지 효율성 분석
저자
박성용
발행일
2024-12-18
학회명
2024 한국소프트웨어종합학술대회