OpenAI podwaja teraz limity szybkości GPT-4 Turbo, teraz do 1.5 miliona tokenów na minutę

Minęło trochę czasu od pierwszego uruchomienia OpenAI GPT-4 Turbo w listopadzie ubiegłego roku podczas wydarzenia DevDay organizowanego przez OAI. Wspierana przez Microsoft firma podała wówczas, że model obsługuje tokeny o pojemności 128 tys.: tokeny wejściowe są 3x tańsze, a tokeny wyjściowe 2x tańsze od GPT-4.

Teraz wygląda na to, że wszystko się zmienia. Firma ma zwiększone limity szybkości GPT-4 Turbo dwukrotnie uniwersalnie, całkowicie wyeliminował limity dzienne, a teraz zapewnia maksymalnie 1.5 mln tokenów na minutę (TPM).

Jeśli nie jesteś zaznajomiony, limity stawek nałożone na poziomach organizacyjnych to ograniczenia nałożone na dostęp do API w celu zapobiegania nadużyciom, zapewnienia uczciwości i zarządzania obciążeniem infrastruktury. Zapobiegają złośliwemu przeciążeniu interfejsu API, zapewniają równy dostęp wszystkim użytkownikom i utrzymują płynną wydajność w okresach największego zapotrzebowania, ograniczając liczbę żądań dozwolonych w określonym przedziale czasowym.

Każde użycie wiąże się z różnymi planami cenowymi. OpenAI oferuje co najmniej pięć poziomów użytkowania: wersję bezpłatną z limitem 100 USD miesięcznie aż do poziomu 5 za 10,000 XNUMX USD miesięcznie dla większych organizacji.

Możesz także wykorzystać moc analizy obrazu za pomocą GPT-4 Turbo z wizją za pośrednictwem platformy Azure OpenAI. Ten zaawansowany multimodalny model AI łączy możliwości GPT-4 Turbo z możliwością analizy obrazów, umożliwiając zadawanie pytań na temat zdjęć i otrzymywanie wnikliwych odpowiedzi tekstowych.