OpenAI agora dobra os limites de taxa GPT-4 Turbo, agora até 1.5 milhão de tokens por minuto

Já faz um tempo desde o lançamento do OpenAI Turbo GPT-4 em novembro do ano passado, no evento DevDay da OAI. Naquela época, a empresa apoiada pela Microsoft disse que o modelo suportava tokens de 128 mil: os tokens de entrada são 3x mais baratos e os tokens de saída são 2x mais baratos que o GPT-4.

Agora, parece que as coisas estão mudando. A empresa tem limites de taxa GPT-4 Turbo aumentados duplo universalmente, eliminou totalmente os limites diários e agora fornece um máximo de 1.5 milhão tokens por minuto (TPM).

Se você não estiver familiarizado, os limites de taxa, impostos em níveis organizacionais, são restrições impostas ao acesso à API para evitar abusos, garantir justiça e gerenciar a carga da infraestrutura. Eles evitam a sobrecarga maliciosa da API, garantem acesso equitativo para todos os usuários e mantêm um desempenho estável durante períodos de alta demanda, limitando o número de solicitações permitidas dentro de um período de tempo especificado.

Cada uso vem com planos de preços diferentes. OpenAI oferece pelo menos cinco níveis de uso: a versão gratuita, que é limitada a US$ 100/mês, até o nível 5, de US$ 10,000/mês para organizações maiores.

Você também pode aproveitar o poder da análise de imagens com GPT-4 Turbo com Visão por meio do Azure OpenAI. Este modelo avançado de IA multimodal combina os recursos do GPT-4 Turbo com a capacidade de analisar imagens, permitindo que você faça perguntas sobre imagens e receba respostas textuais esclarecedoras.