파인튜닝 시작하기

실습 환경의 파인튜닝 실행 버튼을 누르면, 업로드한 학습 데이터와 설정한 하이퍼파라미터를 기반으로 파인튜닝이 시작됩니다.

파인튜닝이 완료되면, 실습 환경의 오른쪽에서 튜닝된 모델(경상도 사투리를 사용하는 50대 아주머니)과 상호작용할 수 있습니다.

참고 : 이전 수업에서 말씀드린 것처럼 정책적/기술적 이슈로 인해, 실습 환경으로 체험하는 파인튜닝 모델은 코드프렌즈가 자체 파인튜닝한 모델을 사용합니다.

학습이 진행되면 어떤 일이 발생하는 걸까요?

파인튜닝이 진행되며 설정한 하이퍼파라미터에 따라 AI 모델의 가중치와 편향이 업데이트됩니다.

• 가중치(Weights): 입력 데이터의 특정 특징이 얼마나 중요한지 결정

• 편향(Bias): 편향은 모델의 출력이 특정 방향으로 치우치지 않도록 조정하는 값으로, 신경망의 활성화 함수를 조절

가중치와 편향을 비유적으로 설명하면, 아래와 같이 표현할 수 있습니다.

• 가중치는 빵을 만들 때 각 재료의 양을 조절하는 것과 같습니다. 예를 들어, 빵에 들어가는 설탕의 양을 조절하여 달콤함을 조절하는 것입니다.

• 편향은 맛의 기본값으로, 빵에 기본적으로 추가되는 설탕을 얼마나 넣을지를 결정하는 것과 같습니다.

• 학습 과정은 주기적으로 맛을 보면서, 재료의 양을 조금씩 조절하며 최적의 맛을 찾아가는 과정입니다.

학습 과정 자세히 알아보기

1. 초기화 (Initialization)
   • AI 모델 학습을 처음 시작할 때, 가중치와 편향은 무작위로 설정됩니다. 파인튜닝 시에는 이전 모델의 가중치와 편향을 초기값으로 사용합니다.

2. 순전파 (Forward Propagation)
   • 입력 데이터가 모델을 통해 전달됩니다. 각 입력 값은 가중치와 곱해지고 편향이 더해져서 출력 값이 계산됩니다.
   • 예를 들어, y = wx + b에서 y는 출력, w는 가중치, x는 입력, b는 편향입니다.

3. 손실 계산 (Loss Calculation)
   • 모델의 예측 값(출력)과 실제 값(정답) 사이의 차이를 계산하여 손실 값을 구합니다. 손실 값은 모델의 예측이 얼마나 잘못되었는지를 나타냅니다.
   • 예를 들어, 예측 값이 5이고 실제 값이 3이면, 손실은 이 둘의 차이입니다. (예: 평균 제곱 오차 함수 적용 시, (5-3)^2 = 4)

4. 역전파 (Backpropagation)
   • 손실 값을 줄이기 위해 가중치와 편향을 어떻게 조정할지를 결정합니다.
   • 이를 위해 각 가중치와 편향이 손실 값에 얼마나 기여했는지를 계산합니다. 이 과정은 미분을 사용하여 기울기(Gradient)를 구합니다.

5. 가중치와 편향 업데이트
   • 계산된 기울기(Gradient)를 사용하여 가중치와 편향을 업데이트합니다. 이는 손실 값을 줄이는 방향으로 조정됩니다.

다음 내용이 궁금하다면?

코드프렌즈 PLUS 멤버십 가입 or 강의를 등록해 주세요!

강의 등록하기로그인하기