El GPT-4o mini de OpenAI procesa más de 200 mil millones de tokens diariamente menos de una semana después del lanzamiento

OpenAI lanzó el GPT-4o mini, su último modelo pequeño y más capaz, para las masas hace un tiempo. La compañía respaldada por Microsoft dijo en su lanzamiento que el modelo admite hasta 128K de ventana de contexto y tokens de salida máxima de 16K.

Ahora, en una actualización compartido por el jefe de OpenAI, Sam Altman, el modelo pequeño ha superado el hito de procesamiento diario de 200 mil millones de tokens, aunque algunos usuarios también señaló que el modelo Mini consume más de 20 tokens para imágenes que GPT-4.

GPT-4o mini es ideal para tareas que requieren bajo costo y latencia, lo que lo hace adecuado para aplicaciones que involucran llamadas de múltiples modelos, manejo de contexto grande o interacciones de texto en tiempo real, como API, análisis integral de código base y chatbots de atención al cliente.

"Hoy en día, GPT-4o mini admite texto y visión en la API, y en el futuro admitirá entradas y salidas de texto, imágenes, video y audio", promete la compañía respaldada por Microsoft.

OpenAI dijo en el momento del lanzamiento que el modelo Mini supera a algunos de sus competidores en varios puntos de referencia. GPT-4o Mini supera a los competidores, como Gemini Flash de Google y Claude Haiku de Anthropic, con puntuaciones de referencia altas: 82% en MMLU, 87% en MGSM y 87.2% en HumanEval.

GPT-4o mini también reemplaza a GPT-3.5 para usuarios de ChatGPT Free, Plus y Team con una fecha límite de capacitación en octubre de 2023. nemo, otro modelo más pequeño de Mistral AI respaldado por Nvidia, también está causando sensación con 128 tokens y una puntuación del 68.0% en MMLU.