소형 언어모델 sLLM

소규모 대형언어모델 sLLM 매개변수를 줄이고 미세조정으로 정확도를 높이는 맞춤형 LLM

챗 GPT 의 파라미터는 약 1750 억개, 구글의 PaLM 은 5400억개,

하지만 sLLM 은 약 60억개이다.

비용과 시간의 감소

이는 맞춤 형식과 작업 방식에 맞춰 LLM 의 맞춤화, 범용성이 제한되고 과소적합이 야기될 것

 

말 그대로 특정 분야에서의 언어 모델