OpenAI теперь удваивает ограничения скорости GPT-4 Turbo, теперь до 1.5 миллиона токенов в минуту

Прошло много времени с момента первого запуска OpenAI. ГПТ-4 Турбо еще в ноябре прошлого года на мероприятии OAI DevDay. Тогда компания, поддерживаемая Microsoft, заявила, что модель поддерживает 128 тыс. токенов: входные токены в 3 раза дешевле, а выходные токены в 2 раза дешевле, чем GPT-4.

Теперь кажется, что все меняется. Компания имеет увеличены ограничения скорости GPT-4 Turbo в два раза повсеместно, полностью устранил дневные ограничения и теперь обеспечивает максимум 1.5 миллиона токенов в минуту (TPM).

Если вы не знакомы, ограничения скорости, налагаемые на организационных уровнях, представляют собой ограничения на доступ к API для предотвращения злоупотреблений, обеспечения справедливости и управления нагрузкой на инфраструктуру. Они предотвращают злонамеренную перегрузку API, обеспечивают равноправный доступ для всех пользователей и поддерживают бесперебойную работу в периоды высокого спроса, ограничивая количество запросов, разрешенных в течение определенного периода времени.

Для каждого использования предусмотрены разные тарифные планы. OpenAI предлагает как минимум пять уровней использования: бесплатная версия, стоимость которой ограничена 100 долларами в месяц, вплоть до уровня 5 стоимостью 10,000 XNUMX долларов в месяц для более крупных организаций.

Вы также можете воспользоваться возможностями анализа изображений с помощью GPT-4 Turbo с видением через Azure OpenAI. Эта усовершенствованная мультимодальная модель искусственного интеллекта сочетает в себе возможности GPT-4 Turbo с возможностью анализа изображений, что позволяет вам задавать вопросы об изображениях и получать подробные текстовые ответы.