OpenAI double désormais les limites de débit GPT-4 Turbo, désormais jusqu'à 1.5 million de jetons par minute

Cela fait un moment depuis le lancement d'OpenAI GPT-4 Turbo en novembre de l'année dernière, lors de l'événement DevDay de l'OAI. À cette époque, la société soutenue par Microsoft avait déclaré que le modèle prenait en charge 128 3 jetons : les jetons d'entrée sont 2 fois moins chers et les jetons de sortie sont 4 fois moins chers que GPT-XNUMX.

Maintenant, il semble que les choses changent. L'entreprise a augmentation des limites de débit GPT-4 Turbo double universellement, éliminé entièrement les limites quotidiennes et fournit désormais un maximum de 1.5 million jetons par minute (TPM).

Si vous n'êtes pas familier, les limites de débit, imposées aux niveaux organisationnels, sont des restrictions imposées à l'accès aux API pour éviter les abus, garantir l'équité et gérer la charge de l'infrastructure. Ils empêchent la surcharge malveillante de l'API, garantissent un accès équitable à tous les utilisateurs et maintiennent des performances fluides pendant les périodes de forte demande en limitant le nombre de requêtes autorisées dans un délai spécifié.

Chaque utilisation est accompagnée de plans tarifaires différents. OpenAI propose au moins cinq niveaux d'utilisation : de la version gratuite, limitée à 100 $/mois, jusqu'au niveau 5 à 10,000 XNUMX $/mois pour les grandes organisations.

Vous pouvez également exploiter la puissance de l’analyse d’images avec GPT-4 Turbo avec vision via Azure OpenAI. Ce modèle d'IA multimodal avancé combine les capacités de GPT-4 Turbo avec la capacité d'analyser des images, vous permettant de poser des questions sur les images et de recevoir des réponses textuelles perspicaces.