OpenAI, 몇 가지 새로운 미세 조정 API 기능과 확장된 사용자 정의 모델 프로그램 발표

작년에 OpenAI는 GPT-3.5용 셀프 서비스 미세 조정 API를 처음 출시했습니다. 미세 조정은 LLM이 콘텐츠를 더 잘 이해하고 특정 작업에 대한 기존 지식과 기능을 강화하는 데 도움이 될 수 있습니다. 출시 이후 수천 개의 조직에서 더 나은 코드를 생성하고 특정 형식으로 텍스트를 요약하는 등의 작업을 위해 미세 조정 API를 사용해 왔습니다.

오늘은 오픈AI 발표 개발자가 미세 조정을 더 효과적으로 제어할 수 있는 몇 가지 새로운 기능입니다. 아래에서 이에 대해 읽어보세요.

• 특히 과적합의 경우 후속 재훈련의 필요성을 줄이기 위해 각 훈련 에포크 동안 완전히 미세 조정된 모델 체크포인트를 저장합니다.
• 모델 품질과 성능을 비교하기 위한 새로운 병렬 플레이그라운드 UI를 통해 여러 모델의 출력을 사람이 평가하거나 단일 프롬프트에 대해 스냅샷을 미세 조정할 수 있습니다.
• 개발자가 세부적인 미세 조정 데이터를 스택의 나머지 부분과 공유할 수 있도록 타사 플랫폼과의 통합 지원
• 모델 성능(토큰 손실 및 정확성)에 대한 더 나은 가시성을 제공하고 모델의 일반화 기능에 대한 피드백을 제공하기 위해 각 시대가 끝날 때 검증 데이터 세트(이전의 샘플링된 배치)에 대해 계산된 측정항목
• API나 SDK를 통해서만 사용하는 것이 아니라 대시보드에서 사용 가능한 하이퍼파라미터를 구성하는 기능
• 하이퍼파라미터 구성, 더 자세한 교육 지표 보기, 이전 구성에서 작업 재실행 기능을 포함하여 미세 조정 대시보드가 ​​다양하게 개선되었습니다.

오늘 OpenAI는 맞춤형 모델 프로그램의 일부로 지원되는 미세 조정 서비스도 발표했습니다. OpenAI 연구원으로 구성된 전담 그룹은 보조 미세 조정을 통해 추가 하이퍼파라미터 및 다양한 PEFT(매개변수 효율적 미세 조정) 방법과 같은 미세 조정 API 이상의 기술을 사용하여 특정 도메인에 대한 모델을 훈련하고 최적화합니다. 이 프로그램은 효율적인 교육 데이터 파이프라인, 평가 시스템, 맞춤형 매개변수 및 방법을 구축하여 특정 도메인의 모델 성능을 향상시키는 데 지원이 필요한 조직에 정말 도움이 될 것입니다. OpenAI는 미세 조정 지원 외에도 조직이 비즈니스, 산업 또는 도메인을 이해하는 목적에 맞게 구축된 모델을 처음부터 훈련하는 데 도움을 줍니다.

“OpenAI를 사용하면 대부분의 조직에서 셀프 서비스 미세 조정 API를 통해 의미 있는 결과를 빠르게 확인할 수 있습니다. 모델을 더욱 세부적으로 미세 조정하거나 새로운 도메인별 지식을 모델에 접목해야 하는 조직의 경우 당사의 맞춤형 모델 프로그램이 도움이 될 수 있습니다.”라고 OpenAI 팀은 말했습니다.