شما می توانید برخلاف میل OpenAI در فروشگاه GPT یک دوست دختر هوش مصنوعی داشته باشید. در حال حاضر
2 دقیقه خواندن
منتشر شده در
صفحه افشای ما را بخوانید تا بدانید چگونه می توانید به MSPoweruser کمک کنید تا تیم تحریریه را حفظ کند ادامه مطلب
یادداشت های کلیدی
- در روزهای اولیه نگرانیهای مربوط به سیاستهای مربوط به چت رباتهای ایجاد شده توسط کاربر که دستورالعملهای همراهی را نقض میکنند، مشاهده میشود.
- محبوبیت همراهان هوش مصنوعی باعث ایجاد بحث در مورد بهره برداری بالقوه از تنهایی می شود.
OpenAI فروشگاه GPT و تیم های GPT، که هفته گذشته راه اندازی شد، با ایجاد چت ربات هایی که خط مشی های استفاده پلتفرم را نقض می کنند، با چالش های اولیه مواجه شد. این فروشگاه به کاربران اجازه می دهد تا نسخه های سفارشی شده ابزار محبوب ChatGPT را برای اهداف خاص ایجاد کنند. با این حال، برخی از کاربران از پتانسیل سفارشیسازی برای توسعه رباتهای گفتگو خارج از دستورالعملهای OpenAI استفاده کردهاند.
جستجوی "دوست دختر" در فروشگاه نتایج شگفت انگیزی به دست می دهد: "دوست دختر کره ای"، "عزیز مجازی" و "دوست دختر هوش مصنوعی شما، تسو"، در میان حداقل هشت مورد دیگر. این رباتها خطمشی OpenAI را نقض میکنند، که GPTها را از ترویج همراهی عاشقانه یا شرکت در «فعالیتهای تنظیمشده» منع میکند.
این یک روند کوچک نیست. چت رباتهای رابطهای بهطور شگفتآوری محبوب هستند، به طوری که هفت مورد از 30 ربات چت ربات برتر دانلود شده با هوش مصنوعی در سال 2023 (ایالات متحده) مربوط به عشق هستند.
همانطور که گزارش منبع، OpenAI از نقض خط مشی های رخ داده در فروشگاه GPT آگاه است. این شرکت از سیستم های خودکار، بررسی انسانی و گزارش های کاربر برای شناسایی و ارزیابی GPT های بالقوه مشکل ساز استفاده می کند. پیامدهای احتمالی نقض خطمشیها عبارتند از هشدارها، محدودیتهای مربوط به قابلیتهای اشتراکگذاری، یا حذف از فروشگاه GPT یا برنامههای کسب درآمد.
نه فقط این، بلکه تغییر اخیر در سیاست ها به این معنی است ارتش و ارتش می توانند به طور قانونی از ChatGPT استفاده کنند.
آزمایش فروشگاه GPT نویدبخش نوآوری هوش مصنوعی است، اما حادثه ربات «دوست دختر» نشان میدهد که مقررات همچنان یک مرز مهم است.