OpenAI anuncia el modelo GPT-4 Turbo que admite tokens de 128K y más

En el OpenAI DevDay, OpenAI El director ejecutivo Sam Altman anunció hoy el nuevo modelo GPT-4 Turbo con varias mejoras clave y un precio significativamente más económico.

En primer lugar, el modelo GPT-4 Turbo ahora tiene una longitud de contexto mucho mayor. Ahora admite una ventana de contexto de 128k y una mayor precisión en contextos prolongados.

En segundo lugar, GPT-4 Turbo ahora admite el modo de salida JSON, lo que permite a los desarrolladores integrarlo fácilmente en otros servicios. También viene con mejoras en la llamada de funciones, resultados reproducibles y visualización de probabilidades de registros.

En tercer lugar, la fecha límite de conocimiento de GPT-4 Turbo es ahora abril de 2023, en comparación con septiembre de 2021 para GPT-4.

En cuarto lugar, los modelos DALL-E 3, texto a voz y GPT-4 Turbo ahora están disponibles a través de API. El nuevo Whipser V3 llega con grandes mejoras.

Quinto, el ajuste fino ahora está disponible para la ventana de contexto de 16k. Además, los clientes empresariales pueden asociarse con OpenAI para obtener modelos completamente personalizados. Al igual que Google y Microsoft, OpenAI ahora ofrece Copyright Shield para todos los clientes empresariales.

En sexto lugar, OpenAI ahora ofrece límites de tarifas más altos y precios más bajos. El precio de la entrada GPT-4 Turbo es un 66% menor y la salida es un 50% menos costosa que el precio actual del GPT-4. Puede obtener más detalles sobre la reducción de precios a continuación.

• Los tokens de entrada GPT-4 Turbo son 3 veces más baratos que GPT-4 a $0.01 y los tokens de salida son 2 veces más baratos a $0.03.
• Los tokens de entrada GPT-3.5 Turbo son 3 veces más baratos que el modelo anterior de 16K a $0.001 y los tokens de salida son 2 veces más baratos a $0.002. Los desarrolladores que anteriormente utilizaban GPT-3.5 Turbo 4K se benefician de una reducción del 33% en los tokens de entrada a 0.001 dólares. Esos precios más bajos sólo se aplican al nuevo GPT-3.5 Turbo presentado hoy.
• Los tokens de entrada del modelo GPT-3.5 Turbo 4K ajustados se reducen 4 veces a $ 0.003 y los tokens de salida son 2.7 veces más baratos a $ 0.006. El ajuste fino también admite contexto de 16K al mismo precio que 4K con el nuevo modelo GPT-3.5 Turbo. Estos nuevos precios también se aplican a los afinados. gpt-3.5-turbo-0613 .