LM(Language Model, 언어 모델)에 관련하여 먼저 얘기할 필요가 있습니다. LM은 패턴과 패턴간의 관계를 학습하여 텍스트 번역과 같은 곳에서 주로 사용되었습니다.

LLM(Large Language Model, 거대 언어 모델)은 이러한 패턴간의 관계를 대량으로 학습하여 문장의 문맥을 이해하여 좀 더 고도화된 번역, 인간과 대화하는 듯한 텍스트 생성 등을 할 수 있게 한 것입니다.

수많은 문장을 통해 통계에 기반한 다음 단어 생성을 할 수 있는 것이죠. 모델이 크면 클 수록 더욱 정교한 문장 생성이 가능합니다.

참고로 자연어 처리(Natural Language Processing, NLP)는 LLM을 포함한 좀 더 넓은 의미로 쓰이고 있습니다. 자연어는 인간의 언어입니다. 이러한 자연어 처리는 머신러닝 분야에 하위 분야는 아닙니다. 아래 그림을 참고해주세요.

Untitled

모르는 용어들이 참 많이 나왔죠? 여기서 모르는 용어들을 체크해봅시다.