OpenAI объявляет о нескольких новых функциях тонкой настройки API и расширенной программе Custom Model.

В прошлом году OpenAI впервые запустила API для самостоятельной настройки GPT-3.5. Точная настройка может помочь LLM лучше понять контент и расширить имеющиеся у него знания и возможности для решения конкретной задачи. С момента его запуска тысячи организаций использовали API тонкой настройки для создания более качественного кода, обобщения текста в определенном формате и многого другого.

Сегодня ОпенАИ объявило несколько новых функций для разработчиков, дающих им больше контроля над тонкой настройкой. Читайте о них ниже.

• Сохранение полной точно настроенной контрольной точки модели во время каждой эпохи обучения, чтобы уменьшить необходимость последующего повторного обучения, особенно в случаях переобучения.
• Новый параллельный пользовательский интерфейс Playground для сравнения качества и производительности моделей, позволяющий оценить результаты работы нескольких моделей или выполнить точную настройку снимков с помощью одного запроса.
• Поддержка интеграции со сторонними платформами, позволяющая разработчикам делиться подробными данными тонкой настройки с остальной частью своего стека.
• Метрики, вычисляемые по набору проверочных данных (ранее выборочный пакет) в конце каждой эпохи, чтобы обеспечить лучшую видимость производительности модели (потеря токенов и точность) и дать обратную связь о возможности обобщения моделей.
• Возможность настройки доступных гиперпараметров из панели управления (а не только через API или SDK).
• Различные улучшения в панели тонкой настройки, включая возможность настройки гиперпараметров, просмотра более подробных показателей обучения и повторного запуска заданий из предыдущих конфигураций.

Сегодня OpenAI также анонсировала предложение по тонкой настройке в рамках программы Custom Model. Благодаря помощи в тонкой настройке специальная группа исследователей OpenAI будет использовать методы, выходящие за рамки API тонкой настройки, такие как дополнительные гиперпараметры и различные методы эффективной тонкой настройки (PEFT) для обучения и оптимизации моделей для конкретной области. Эта программа будет действительно полезна для организаций, которым нужна поддержка для создания эффективных конвейеров обучающих данных, систем оценки, а также индивидуальных параметров и методов для повышения производительности моделей для их конкретной области. Помимо помощи в тонкой настройке, OpenAI также помогает организациям в обучении специально созданной модели с нуля, которая понимает их бизнес, отрасль или сферу деятельности.

«Благодаря OpenAI большинство организаций могут быстро увидеть значимые результаты с помощью API тонкой настройки с возможностью самостоятельного обслуживания. Для любых организаций, которым необходимо более глубоко настроить свои модели или внедрить в них новые, специфичные для предметной области знания, наши программы Custom Model могут помочь», — написала команда OpenAI.