메인 콘텐츠로 건너뛰기

소개

Microsoft Azure에서 GPT-3.5 또는 GPT-4 모델을 파인튜닝할 때 W&B를 사용하면 메트릭을 자동으로 수집하고, W&B의 실험 추적 및 평가 도구를 통해 체계적인 평가를 수행하여 모델 성능을 추적, 분석, 개선할 수 있습니다.
Azure OpenAI 파인튜닝 메트릭

사전 요구 사항

  • 공식 Azure 문서에 따라 Azure OpenAI 서비스를 설정합니다.
  • API 키를 사용하도록 W&B 계정을 설정합니다.

워크플로 overview

1. 파인튜닝 설정

  • Azure OpenAI 요구 사항에 따라 트레이닝 데이터를 준비합니다.
  • Azure OpenAI에서 파인튜닝 작업을 설정합니다.
  • W&B가 파인튜닝 과정을 자동으로 추적하고 메트릭과 하이퍼파라미터를 로깅합니다.

2. 실험 추적

파인튜닝 중 W&B는 다음을 기록합니다:
  • 트레이닝 및 검증 메트릭
  • 모델 하이퍼파라미터
  • 리소스 사용량
  • 트레이닝 아티팩트

3. 모델 평가

파인튜닝 후 W&B Weave를 사용해 다음을 수행합니다:
  • 모델 출력을 레퍼런스 데이터셋과 비교하여 평가
  • 서로 다른 파인튜닝 run 간의 성능 비교
  • 특정 테스트 사례에서 모델의 동작 분석
  • 데이터에 기반해 모델 선택 결정

실제 사용 사례

추가 리소스