OpenAI는 이제 GPT-4 Turbo 속도 제한을 두 배로 늘려 이제 분당 최대 1.5만 개의 토큰을 제공합니다.
해당 모델은 지난해 처음 출시됐다.
2 분. 읽다
에 게시됨
이 기사 공유
이 가이드를 개선하세요
공개 페이지를 읽고 MSPoweruser가 편집팀을 유지하는 데 어떻게 도움을 줄 수 있는지 알아보세요. 자세히 보기
주요 사항
- OpenAI는 GPT-4 Turbo 속도 제한을 보편적으로 두 배로 늘렸습니다.
- 이제 분당 최대 1.5만 개의 토큰(TPM)을 제공합니다.
- 조직 수준에 적용되는 비율 제한은 남용을 방지하기 위해 API 액세스에 적용되는 제한입니다.
OpenAI가 처음 출시된 지 꽤 시간이 지났습니다. GPT-4 터보 작년 128월 OAI의 DevDay 행사에서. 당시 Microsoft 지원 회사는 이 모델이 3K 토큰을 지원한다고 밝혔습니다. 입력 토큰은 GPT-2보다 4배 저렴하고 출력 토큰은 XNUMX배 저렴합니다.
이제는 상황이 변하고 있는 것 같습니다. 회사는 GPT-4 터보 속도 제한 증가 보편적으로 이중으로 일일 한도를 완전히 없애고 이제 최대 1.5만 분당 토큰(TPM).
익숙하지 않다면 조직 수준에 부과되는 비율 제한은 남용을 방지하고 공정성을 보장하며 인프라 로드를 관리하기 위해 API 액세스에 적용되는 제한입니다. API의 악의적인 오버로드를 방지하고, 모든 사용자에게 공평한 액세스를 보장하며, 지정된 기간 내에 허용되는 요청 수를 제한하여 수요가 많은 기간 동안 원활한 성능을 유지합니다.
각 사용량에는 서로 다른 가격 계획이 제공됩니다. OpenAI는 최소 100가지 사용 계층을 제공합니다. 무료 버전은 월 $5로 제한되며 계층 10,000는 대규모 조직의 경우 $XNUMX/월로 제한됩니다.
다음을 통해 이미지 분석의 힘을 활용할 수도 있습니다. 비전 기능이 탑재된 GPT-4 터보 Azure OpenAI를 통해. 이 고급 멀티모달 AI 모델은 GPT-4 Turbo의 기능과 이미지 분석 기능을 결합하여 사진에 대해 질문하고 통찰력 있는 텍스트 응답을 받을 수 있도록 합니다.
