OpenAI dublează acum limitele ratei GPT-4 Turbo, acum până la 1.5 milioane de jetoane pe minut

A trecut ceva timp de la lansarea OpenAI GPT-4 Turbo în noiembrie anul trecut, la evenimentul OAI DevDay. La acel moment, compania susținută de Microsoft a spus că modelul acceptă 128 jetoane: jetoanele de intrare sunt de 3 ori mai ieftine, iar jetoanele de ieșire sunt de 2 ori mai ieftine decât GPT-4.

Acum, se pare că lucrurile se schimbă. Compania are limite de viteză Turbo GPT-4 crescute de două ori universal, a eliminat în întregime limitele zilnice și oferă acum a maxim 1.5 milioane jetoane pe minut (TPM).

Dacă nu sunteți familiarizat, limitele de rată, impuse la niveluri organizaționale, sunt restricții impuse accesului la API pentru a preveni abuzurile, a asigura corectitudinea și a gestiona încărcarea infrastructurii. Ele previn supraîncărcarea rău intenționată a API-ului, asigură accesul echitabil pentru toți utilizatorii și mențin performanța fără probleme în perioadele de cerere ridicată prin limitarea numărului de solicitări permise într-un interval de timp specificat.

Fiecare utilizare vine cu planuri de preț diferite. OpenAI oferă cel puțin cinci niveluri de utilizare: versiunea gratuită, care este limitată la 100 USD / lună, până la nivelul 5 la 10,000 USD / lună pentru organizațiile mai mari.

De asemenea, puteți profita de puterea analizei imaginii cu GPT-4 Turbo cu Viziune prin Azure OpenAI. Acest model AI multimodal avansat combină capacitățile lui GPT-4 Turbo cu capacitatea de a analiza imagini, permițându-vă să puneți întrebări despre imagini și să primiți răspunsuri textuale perspicace.