💡 이 글은 마켓디자이너스(튜터링) MLOps Engineering 인턴 생활을 하며 직접 적용 & 공부했던 기록입니다.앱 서비스에 대한 간단한 소개를 하자면, 현재 튜터링이라는 어플은 외국인과의 실시간 소통이 가능하도록 만들어진 영어 교육 플랫폼입니다. 여기서 영어(한국어) 교육 AI tutor를 개발하고 있습니다.따라서 언급하는 모든 ML Model은 Language Model, 혹은 LLM입니다. (Vision은 하지 않았습니다!) 0. 모델 서빙 클라우드 플랫폼 선택 과정자사에서 ML 모델을 Finetuning 하는 일은 협업하는 연구실 측에서 담당해주고 있습니다.물론 자사에서도 자체모델을 Finetuning하지만, 그 수가 적습니다.저희는 Finetuning된 모델을 huggingface로 공..
