OpenAI kündigt mehrere neue API-Funktionen zur Feinabstimmung und ein erweitertes Programm für benutzerdefinierte Modelle an
2 Minute. lesen
Veröffentlicht am
Teile diesen Artikel
Verbessern Sie diesen Leitfaden
Lesen Sie unsere Offenlegungsseite, um herauszufinden, wie Sie MSPoweruser dabei helfen können, das Redaktionsteam zu unterstützen Lesen Sie weiter
Wichtige Hinweise
- OpenAI erweitert seine Feinabstimmungsfunktionen um neue Funktionen, unterstützte Feinabstimmung und individuell trainierte Modelle und ermöglicht es Unternehmen, Sprachmodelle an spezifische Bedürfnisse anzupassen.
Letztes Jahr hat OpenAI erstmals seine Self-Service-Feinoptimierungs-API für GPT-3.5 eingeführt. Eine Feinabstimmung kann LLMs dabei helfen, Inhalte besser zu verstehen und ihr vorhandenes Wissen und ihre Fähigkeiten für eine bestimmte Aufgabe zu erweitern. Seit seiner Einführung haben Tausende von Organisationen die API zur Feinabstimmung genutzt, um besseren Code zu generieren, Text in einem bestimmten Format zusammenzufassen und vieles mehr.
Heute OpenAI angekündigt Mehrere neue Funktionen für Entwickler, die ihnen mehr Kontrolle über die Feinabstimmung geben. Lesen Sie weiter unten mehr darüber.
- Speichern eines vollständigen, fein abgestimmten Modellkontrollpunkts während jeder Trainingsepoche, um die Notwendigkeit einer nachfolgenden Neuschulung zu reduzieren, insbesondere in Fällen einer Überanpassung
- Eine neue parallele Playground-Benutzeroberfläche zum Vergleichen von Modellqualität und -leistung, die eine menschliche Bewertung der Ausgaben mehrerer Modelle oder die Feinabstimmung von Snapshots anhand einer einzelnen Eingabeaufforderung ermöglicht
- Unterstützung für Integrationen mit Plattformen von Drittanbietern, damit Entwickler detaillierte Feinabstimmungsdaten mit dem Rest ihres Stacks teilen können
- Metriken, die am Ende jeder Epoche über den Validierungsdatensatz (zuvor ein Stichprobenstapel) berechnet wurden, um einen besseren Einblick in die Modellleistung (Tokenverlust und -genauigkeit) zu ermöglichen und Feedback zur Generalisierungsfähigkeit der Modelle zu geben
- Die Möglichkeit, verfügbare Hyperparameter über das Dashboard zu konfigurieren (statt nur über die API oder das SDK)
- Verschiedene Verbesserungen am Feinabstimmungs-Dashboard, einschließlich der Möglichkeit, Hyperparameter zu konfigurieren, detailliertere Trainingsmetriken anzuzeigen und Jobs aus früheren Konfigurationen erneut auszuführen.
Heute hat OpenAI außerdem das unterstützte Feinabstimmungsangebot als Teil des Custom Model-Programms angekündigt. Durch die unterstützte Feinabstimmung wird eine engagierte Gruppe von OpenAI-Forschern Techniken verwenden, die über die Feinabstimmungs-API hinausgehen, wie etwa zusätzliche Hyperparameter und verschiedene Methoden der Parametereffizienten Feinabstimmung (PEFT), um Modelle für eine bestimmte Domäne zu trainieren und zu optimieren. Dieses Programm wird für Organisationen sehr hilfreich sein, die Unterstützung beim Aufbau effizienter Trainingsdatenpipelines, Bewertungssysteme sowie maßgeschneiderter Parameter und Methoden benötigen, um die Modellleistung für ihren spezifischen Bereich zu verbessern. Neben der unterstützten Feinabstimmung hilft OpenAI Unternehmen auch dabei, ein speziell entwickeltes Modell von Grund auf zu trainieren, das ihr Geschäft, ihre Branche oder ihren Bereich versteht.
„Mit OpenAI können die meisten Organisationen mit der Self-Service-Feinabstimmungs-API schnell aussagekräftige Ergebnisse erzielen. Für alle Organisationen, die ihre Modelle tiefer verfeinern oder neues, domänenspezifisches Wissen in das Modell einfließen lassen müssen, können unsere benutzerdefinierten Modellprogramme helfen“, schrieb das OpenAI-Team.
