Apa itu "Spesifikasi Model" OpenAI? Sam Altman mengatakan pentingnya kemajuan masyarakat dengan AI

Kami bergerak terlalu cepat dengan AI dibandingkan Altman membatu olehnya. Bahkan video buatan AI mulai hari ini (terima kasih kepada Sora dari OpenAI model) dibandingkan satu atau dua tahun lalu terlihat sangat berbeda). Dan kini, perusahaan yang didukung Microsoft meluncurkan Spesifikasi Model, panduan terpadu tentang bagaimana seharusnya model OAI berperilaku. 

Ini adalah dokumen yang menjelaskan bagaimana model AI harus berperilaku dalam situasi tertentu, seperti permintaan konten NSFW, privasi orang, atau bahkan aktivitas ilegal. Diumumkan pada hari Rabu, Model Spec kemudian dapat membantu membedakan apakah ada sesuatu yang merupakan bug atau keputusan yang dibuat secara sadar dan dibuat oleh manusia dalam model ini.

“Kami menerbitkan Model Spec untuk memberikan lebih banyak transparansi mengenai pendekatan kami dalam membentuk perilaku model, dan untuk memulai percakapan publik tentang bagaimana hal itu dapat diubah dan ditingkatkan,” demikian isi dokumen tersebut, yang menyatakan bahwa Spec kemudian akan menjadi perbincangan publik. . 

Dokumen ini menguraikan tiga jenis prinsip: tujuan, aturan, dan default. Tujuan memberikan arahan yang luas namun mungkin bertentangan dalam skenario yang kompleks. Aturan menjamin keamanan dan legalitas, sementara standar memberikan perilaku stabil yang dapat diganti sesuai kebutuhan.

Dokumennya memang panjang, tapi ada beberapa informasi menarik. Mereka berpendapat bahwa model AI tidak boleh memenuhi permintaan NSFW, kecuali dalam konteks ilmiah atau kreatif. Misalnya, dokumen tersebut menyebutkan permintaan yang tidak biasa untuk lirik rap tentang kucing dengan bahasa eksplisit, yang menurut mereka diperbolehkan dalam kasus tertentu.

Perusahaan yang didukung Microsoft menyebutkan bahwa mereka belum sepenuhnya menggunakan Model Spec seperti sekarang, namun mereka meminjam dari dokumentasi yang digunakan dalam proyek sebelumnya di OpenAI. Mereka juga mencari cara agar model mereka dapat belajar langsung dari Model Spec.