베이스(Base) 모델이란?
베이스 모델
은 광범위한 데이터셋을 사용해 사전 학습(Pre-trained)된 언어 모델로, 파인튜닝(fine-tuning) 작업을 위한 기반이 되는 모델입니다.
OpenAI의 대표적인 베이스 모델로는 GPT-3.5, GPT-4, GPT-4o 등이 있습니다.
물론입니다. 여기 오픈AI의 다양한 모델에 대한 설명과 그 출시 연도입니다.
OpenAI의 주요 베이스 모델
OpenAI는 주로 GPT
(Generative Pre-trained Transformer) 시리즈를 통해 다양한 베이스 모델을 출시하고 있습니다.
1. GPT-3
- 출시 연도: 2020년 6월
- 설명: GPT-3는 1750억 개의 파라미터(Parameter, 가중치와 편향을 의미)를 가지고 있어, 출시 당시 가장 큰 언어 모델 중 하나였습니다. 위키피디아 등 인터넷의 다양한 소스에서 수집된 방대한 텍스트 데이터로 훈련되었습니다.