OpenAI ahora duplica los límites de velocidad de GPT-4 Turbo, ahora hasta 1.5 millones de tokens por minuto

Ha pasado un tiempo desde que se lanzó OpenAI por primera vez GPT-4 Turbo en noviembre del año pasado en el evento DevDay de OAI. En ese momento, la empresa respaldada por Microsoft dijo que el modelo admite 128 tokens: los tokens de entrada son 3 veces más baratos y los tokens de salida son 2 veces más baratos que GPT-4.

Ahora parece que las cosas están cambiando. La compañía tiene mayores límites de velocidad de GPT-4 Turbo doblemente universalmente, eliminó los límites diarios por completo y ahora proporciona una máximo de 1.5 millones tokens por minuto (TPM).

Si no está familiarizado, los límites de tarifas, impuestos a niveles organizacionales, son restricciones impuestas al acceso a la API para evitar abusos, garantizar la equidad y administrar la carga de la infraestructura. Evitan la sobrecarga maliciosa de la API, garantizan un acceso equitativo para todos los usuarios y mantienen un rendimiento fluido durante períodos de alta demanda al limitar la cantidad de solicitudes permitidas dentro de un período de tiempo específico.

Cada uso viene con diferentes planes de precios. OpenAI ofrece al menos cinco niveles de uso: la versión gratuita, que está limitada a $100/mes, hasta el nivel 5 a $10,000/mes para organizaciones más grandes.

También puede aprovechar el poder del análisis de imágenes con GPT-4 Turbo con visión a través de Azure OpenAI. Este modelo avanzado de IA multimodal combina las capacidades de GPT-4 Turbo con la capacidad de analizar imágenes, lo que le permite hacer preguntas sobre imágenes y recibir respuestas textuales detalladas.