OpenAI 宣布了多項新的微調 API 功能和擴展的自訂模型程序

閱讀時間圖標 2分鐘讀


讀者幫助支持 MSpoweruser。如果您透過我們的連結購買,我們可能會獲得佣金。 工具提示圖標

請閱讀我們的揭露頁面,了解如何幫助 MSPoweruser 維持編輯團隊的發展 阅读更多

重點說明

  • OpenAI 透過新功能、輔助微調和客製化訓練模型擴展了其微調功能,使組織能夠根據特定需求自訂語言模型。
OpenAI 微調

去年,OpenAI 首次推出了針對 GPT-3.5 的自助微調 API。微調可以幫助法學碩士更好地理解內容並增強其針對特定任務的現有知識和能力。自推出以來,數千個組織已使用微調 API 來產生更好的程式碼、以特定格式總結文字等等。

今天,OpenAI 宣布 為開發人員提供了一些新功能,使他們能夠更好地控制微調。請閱讀下面的內容。

  • 在每個訓練時期保存完整的微調模型檢查點,以減少後續重新訓練的需要,特別是在過度擬合的情況下
  • 一個新的並排 Playground UI,用於比較模型品質和性能,允許對多個模型的輸出進行人工評估或根據單一提示微調快照
  • 支援與第三方平台集成,讓開發人員可以將詳細的微調資料共享給其堆疊的其餘部分
  • 在每個時期結束時對驗證資料集(以前是採樣批次)計算的指標,以更好地了解模型性能(令牌丟失和準確性)並提供有關模型泛化能力的反饋
  • 能夠從儀表板配置可用的超參數(而不僅僅是透過 API 或 SDK)
  • 對微調儀表板進行了各種改進,包括配置超參數、查看更詳細的訓練指標以及從先前的配置重新運行作業的能力。

今天,OpenAI 也宣布了輔助微調產品,作為客製化模型計畫的一部分。透過輔助微調,OpenAI 研究人員的專門小組將使用微調 API 以外的技術,例如額外的超參數和各種參數高效微調 (PEFT) 方法來訓練和優化特定領域的模型。該計劃對於需要支援來建立高效的訓練資料管道、評估系統以及自訂參數和方法以提高其特定領域的模型性能的組織來說將非常有幫助。除了輔助微調之外,OpenAI 還幫助組織從頭開始訓練專門建立的模型,以了解其業務、行業或領域。

「借助 OpenAI,大多數組織都可以透過自助微調 API 快速看到有意義的結果。對於任何需要更深入地調整模型或向模型注入新的、特定領域的知識的組織來說,我們的自訂模型程式可以提供幫助。」OpenAI 團隊寫道。

發表評論

您的電子郵件地址將不會被發表。 必填字段標 *