OpenAI kini menggandakan batas kecepatan GPT-4 Turbo, kini mencapai 1.5 juta token per menit

Sudah lama sejak OpenAI pertama kali diluncurkan GPT-4 Turbo kembali pada bulan November tahun lalu di acara DevDay OAI. Pada saat itu, perusahaan yang didukung Microsoft mengatakan bahwa model tersebut mendukung 128 ribu token: token masukan 3x lebih murah, dan token keluaran 2x lebih murah dibandingkan GPT-4.

Sekarang, sepertinya segalanya berubah. Perusahaan punya peningkatan batas kecepatan GPT-4 Turbo dua kali lipat secara universal, menghilangkan batasan harian sepenuhnya, dan kini menyediakan a maksimal 1.5 juta token per menit (TPM).

Jika Anda belum mengetahuinya, batasan tarif, yang diberlakukan pada tingkat organisasi, adalah pembatasan yang diterapkan pada akses API untuk mencegah penyalahgunaan, memastikan keadilan, dan mengelola beban infrastruktur. Mereka mencegah kelebihan beban yang berbahaya pada API, memastikan akses yang adil bagi semua pengguna, dan menjaga kelancaran kinerja selama periode permintaan tinggi dengan membatasi jumlah permintaan yang diizinkan dalam jangka waktu tertentu.

Setiap penggunaan hadir dengan paket harga yang berbeda. OpenAI menawarkan setidaknya lima tingkatan penggunaan: versi gratis, yang dibatasi pada $100/bulan, hingga tingkat 5 seharga $10,000/bulan untuk organisasi yang lebih besar.

Anda juga dapat memanfaatkan kekuatan analisis gambar dengan GPT-4 Turbo dengan Visi melalui Azure OpenAI. Model AI multimodal canggih ini menggabungkan kemampuan GPT-4 Turbo dengan kemampuan menganalisis gambar, memungkinkan Anda mengajukan pertanyaan tentang gambar dan menerima respons tekstual yang mendalam.