OpenAI verdoppelt jetzt die GPT-4 Turbo-Ratenlimits, jetzt bis zu 1.5 Millionen Token pro Minute

Es ist schon eine Weile her, seit OpenAI zum ersten Mal gestartet wurde GPT-4 Turbo bereits im November letzten Jahres beim DevDay-Event des OAI. Damals gab das von Microsoft unterstützte Unternehmen an, dass das Modell 128K-Token unterstützt: Eingabe-Token sind dreimal günstiger und Ausgabe-Token sind doppelt so günstig wie GPT-3.

Nun scheint es, als würden sich die Dinge ändern. Das Unternehmen hat erhöhte GPT-4 Turbo-Ratenlimits zweifach universell, tägliche Limits vollständig abgeschafft und bietet nun eine maximal 1.5 Millionen Token pro Minute (TPM).

Falls Sie nicht wissen, dass es sich bei den auf Organisationsebene auferlegten Ratenbegrenzungen um Beschränkungen des API-Zugriffs handelt, um Missbrauch zu verhindern, Fairness zu gewährleisten und die Infrastrukturlast zu verwalten. Sie verhindern eine böswillige Überlastung der API, stellen einen gleichberechtigten Zugriff für alle Benutzer sicher und gewährleisten eine reibungslose Leistung in Zeiten hoher Nachfrage, indem sie die Anzahl der zulässigen Anforderungen innerhalb eines bestimmten Zeitrahmens drosseln.

Für jede Nutzung gelten unterschiedliche Preispläne. OpenAI bietet mindestens fünf Nutzungsstufen: die kostenlose Version, die auf 100 $/Monat begrenzt ist, bis hin zur Stufe 5 für 10,000 $/Monat für größere Organisationen.

Sie können auch die Leistungsfähigkeit der Bildanalyse nutzen GPT-4 Turbo mit Vision über Azure OpenAI. Dieses fortschrittliche multimodale KI-Modell kombiniert die Fähigkeiten von GPT-4 Turbo mit der Fähigkeit, Bilder zu analysieren, sodass Sie Fragen zu Bildern stellen und aufschlussreiche Textantworten erhalten können.