OpenAI의 GPT-4o mini는 출시 후 일주일 이내에 매일 200억 개가 넘는 토큰을 처리합니다.

OpenAI가 출시했습니다. GPT-4o 미니, 조금 전 대중을 위한 가장 유능한 최신 소형 모델입니다. Microsoft 지원 회사는 출시 당시 이 모델이 최대 128K의 컨텍스트 창과 16K의 최대 출력 토큰을 지원한다고 밝혔습니다.

지금에 업데이트 OpenAI 사장인 Sam Altman이 공유한 이 소형 모델은 일일 처리 기준인 200억 토큰을 넘어섰습니다. 유명한 Mini 모델은 GPT-20보다 이미지에 4배 이상의 토큰을 소비합니다.

GPT-4o mini는 낮은 비용과 대기 시간이 필요한 작업에 이상적이며 API, 포괄적인 코드 기반 분석 및 고객 지원 챗봇과 같은 다중 모델 호출, 대규모 컨텍스트 처리 또는 실시간 텍스트 상호 작용과 관련된 애플리케이션에 적합합니다.

“현재 GPT-4o mini는 API에서 텍스트와 비전을 지원하며 앞으로는 텍스트, 이미지, 비디오, 오디오 입력 및 출력도 지원할 예정입니다.”라고 Microsoft가 지원하는 회사는 약속합니다.

OpenAI는 출시 당시 Mini 모델이 여러 벤치마크에서 일부 경쟁사보다 뛰어난 성능을 발휘했다고 밝혔습니다. GPT-4o 미니 경쟁사보다 뛰어나다, Google의 Gemini Flash 및 Anthropic의 Claude Haiku와 같이 높은 벤치마크 점수(MMLU에서 82%, MGSM에서 87%, HumanEval에서 87.2%)를 기록했습니다.

GPT-4o mini는 또한 ChatGPT Free, Plus 및 Team 사용자용 GPT-3.5를 교육 마감일 2023년 XNUMX월로 대체합니다. 니모Nvidia가 지원하는 Mistral AI의 또 다른 소형 모델인 128 토큰과 MMLU에서 68.0%의 점수로 파도를 일으키고 있습니다.