OpenAI fordobler nu GPT-4 Turbo-hastighedsgrænser, nu op til 1.5 millioner tokens i minuttet
Modellen blev første gang lanceret sidste år.
2 min. Læs
Udgivet den
Del denne artikel
Forbedre denne vejledning
Læs vores oplysningsside for at finde ud af, hvordan du kan hjælpe MSPoweruser med at opretholde redaktionen Læs mere
Nøgle noter
- OpenAI har fordoblet GPT-4 Turbo-hastighedsgrænser universelt.
- Det giver nu maksimalt 1.5 millioner tokens i minuttet (TPM).
- Satsgrænser, pålagt på organisatoriske niveauer, er begrænsninger på API-adgang for at forhindre misbrug.
Det er et stykke tid siden, at OpenAI første gang blev lanceret GPT-4 turbo tilbage i november sidste år ved OAI's DevDay-arrangement. På det tidspunkt sagde det Microsoft-støttede firma, at modellen understøtter 128K-tokens: input-tokens er 3x billigere, og output-tokens er 2x billigere end GPT-4.
Nu ser det ud til, at tingene ændrer sig. Virksomheden har øgede GPT-4 turbohastighedsgrænser dobbelt universelt, elimineret daglige grænser helt, og giver nu en maksimalt 1.5 mio tokens per minut (TPM).
Hvis du ikke er bekendt, er hastighedsgrænser, pålagt på organisatoriske niveauer, begrænsninger på API-adgang for at forhindre misbrug, sikre retfærdighed og administrere infrastrukturbelastning. De forhindrer ondsindet overbelastning af API'en, sikrer lige adgang for alle brugere og opretholder en jævn ydeevne i perioder med høj efterspørgsel ved at begrænse antallet af tilladte anmodninger inden for en specificeret tidsramme.
Hver brug kommer med forskellige prisplaner. OpenAI tilbyder mindst fem brugsniveauer: den gratis version, som er begrænset til $100/måned, hele vejen til niveau 5 til $10,000/måned for større organisationer.
Du kan også udnytte kraften ved billedanalyse med GPT-4 Turbo med Vision gennem Azure OpenAI. Denne avancerede multimodale AI-model kombinerer mulighederne i GPT-4 Turbo med evnen til at analysere billeder, så du kan stille spørgsmål om billeder og modtage indsigtsfulde tekstsvar.
