Skip to main content

Track_3-S6(1)

내부 자료의 보안이 중요한 금융에서는 온프렘으로 경량화된 LLM을 사용하고자 하는 경우가 많습니다. 금융 용어와 약관 등을 학습한 '알리 파이낸스 LLM'을 안정적인 AWS 클라우드를 활용해 학습데이터 생성, 트레이닝, 서빙까지 하고 있습니다. 점점 늘어가는 도메인 특화 모델 수요에 대응해 실제 파인튜닝하고 서빙하면서 겪은 노하우를 공유하고자 합니다.