OpenAI sada udvostručuje ograničenja brzine GPT-4 Turbo, sada do 1.5 milijuna tokena u minuti

Prošlo je dosta vremena otkako je OpenAI prvi put lansiran GPT-4 Turbo još u studenom prošle godine na OAI-jevom događaju DevDay. Tada je tvrtka koju podržava Microsoft rekla da model podržava 128K tokena: ulazni tokeni su 3x jeftiniji, a izlazni tokeni 2x jeftiniji od GPT-4.

Sada se čini da se stvari mijenjaju. Tvrtka ima povećana ograničenja brzine GPT-4 Turbo dvostruko univerzalno, potpuno eliminirao dnevna ograničenja i sada pruža a maksimalno 1.5 milijuna kuna tokena po minuti (TPM).

Ako niste upoznati, ograničenja stope, nametnuta na organizacijskim razinama, ograničenja su postavljena na API pristup kako bi se spriječila zlouporaba, osigurala pravednost i upravljalo opterećenjem infrastrukture. One sprječavaju zlonamjerno preopterećenje API-ja, osiguravaju ravnopravan pristup za sve korisnike i održavaju glatku izvedbu tijekom razdoblja visoke potražnje smanjivanjem broja dopuštenih zahtjeva unutar određenog vremenskog okvira.

Svako korištenje dolazi s različitim planovima cijena. OpenAI nudi najmanje pet razina korištenja: besplatnu verziju, koja je ograničena na 100 USD mjesečno, pa sve do razine 5 na 10,000 XNUMX USD mjesečno za veće organizacije.

Također možete iskoristiti moć analize slike pomoću GPT-4 Turbo s vizijom kroz Azure OpenAI. Ovaj napredni multimodalni AI model kombinira mogućnosti GPT-4 Turbo sa sposobnošću analize slika, što vam omogućuje da postavljate pitanja o slikama i primate pronicljive tekstualne odgovore.