OpenAI teraz zdvojnásobuje limity rýchlosti GPT-4 Turbo, teraz až 1.5 milióna tokenov za minútu
Prvýkrát bol model uvedený na trh minulý rok.
2 min. čítať
Publikované dňa
Zdieľajte tento článok
Vylepšite túto príručku
Prečítajte si našu informačnú stránku a zistite, ako môžete pomôcť MSPoweruser udržať redakčný tím Čítaj viac
Kľúčové poznámky
- OpenAI zdvojnásobila univerzálne limity rýchlosti GPT-4 Turbo.
- Teraz poskytuje maximálne 1.5 milióna tokenov za minútu (TPM).
- Limity sadzby, uložené na organizačných úrovniach, sú obmedzeniami kladenými na prístup k API, aby sa zabránilo zneužitiu.
Od prvého spustenia OpenAI ubehol už nejaký čas GPT-4 Turbo v novembri minulého roka na podujatí DevDay spoločnosti OAI. V tom čase spoločnosť podporovaná Microsoftom uviedla, že model podporuje 128 3 tokenov: vstupné tokeny sú 2x lacnejšie a výstupné tokeny sú 4x lacnejšie ako GPT-XNUMX.
Teraz sa zdá, že sa veci menia. Spoločnosť má zvýšené limity rýchlosti GPT-4 Turbo dvojnásobne univerzálne, úplne eliminoval denné limity a teraz poskytuje a maximálne 1.5 milióna tokenov za minútu (TPM).
Ak nie ste oboznámení, limity sadzieb, uložené na organizačných úrovniach, sú obmedzeniami kladenými na prístup k API, aby sa zabránilo zneužitiu, zabezpečila spravodlivosť a spravovala záťaž infraštruktúry. Zabraňujú škodlivému preťaženiu API, zaisťujú spravodlivý prístup pre všetkých používateľov a udržiavajú plynulý výkon počas období vysokého dopytu obmedzením počtu povolených požiadaviek v stanovenom časovom rámci.
Každé použitie prichádza s rôznymi cenovými plánmi. OpenAI ponúka najmenej päť úrovní používania: bezplatnú verziu, ktorá je obmedzená na 100 USD / mesiac, až po úroveň 5 za 10,000 XNUMX USD / mesiac pre väčšie organizácie.
Môžete tiež využiť silu analýzy obrazu pomocou GPT-4 Turbo s Vision cez Azure OpenAI. Tento pokročilý multimodálny model AI kombinuje schopnosti GPT-4 Turbo so schopnosťou analyzovať obrázky, čo vám umožňuje klásť otázky o obrázkoch a prijímať podrobné textové odpovede.
