مایکروسافت دسترسی به برخی از خدمات هوش مصنوعی خود را محدود می کند

هوش مصنوعی آینده فناوری را نگه می دارد، اما در دستان اشتباه، می تواند برای بسیاری دردسر ایجاد کند. به همین دلیل است که مایکروسافت تغییراتی را در استاندارد هوش مصنوعی مسئول خود اعلام کرد، جایی که یک خط مشی جدید دسترسی محدود را معرفی کرد. در برخی از پست‌ها در 21 ژوئن، این شرکت می‌گوید که اکنون دسترسی به برخی از خدمات خود را با استفاده از هوش مصنوعی حذف و محدود می‌کند. به ویژه، این تغییرات خط مشی بر سرویس تشخیص چهره Azure Face مایکروسافت و صدای عصبی سفارشی تأثیر خواهد گذاشت.

یکی از ویژگی هایی که به شدت تحت تأثیر این تغییر قرار می گیرد، فناوری بحث برانگیز آنالیز صورت است که برای استنباط وضعیت عاطفی یک فرد و تشخیص ویژگی های مختلف انسانی مانند جنسیت، سن، لبخند، موهای صورت، مو و آرایش طراحی شده است. مایکروسافت می گوید که این اقدام پس از برخی نگرانی ها در مورد حفظ حریم خصوصی و عدم اجماع علمی در مورد تعریف مفهوم "احساس" صورت گرفته است. 

سارا برد، مدیر محصول اصلی گروه هوش مصنوعی Azure، گفت: "ما با محققان داخلی و خارجی همکاری کردیم تا محدودیت ها و مزایای بالقوه این فناوری را درک کنیم و به معاوضه ها بپردازیم." به طور خاص در مورد طبقه‌بندی احساسات، این تلاش‌ها سؤالات مهمی را در مورد حریم خصوصی، عدم توافق بر سر تعریف «احساسات» و ناتوانی در تعمیم ارتباط بین حالت چهره و حالت عاطفی در بین موارد استفاده، مناطق و جمعیت‌شناسی مطرح کرد. . دسترسی API به قابلیت‌هایی که ویژگی‌های حساس را پیش‌بینی می‌کنند نیز طیف گسترده‌ای از راه‌ها را برای سوء استفاده از آنها باز می‌کند - از جمله قرار دادن افراد در معرض کلیشه‌سازی، تبعیض یا انکار ناعادلانه خدمات.

به این ترتیب، شرکت اعلام کرد که قبلاً قابلیت تشخیص ویژگی را در تاریخ 21 ژوئن برای مشتریان جدید از دسترس خارج کرده است، در حالی که برای مشتریان فعلی در 30 همان ماه متوقف خواهد شد. با این وجود، مایکروسافت می‌گوید که «می‌داند که این قابلیت‌ها در صورت استفاده برای مجموعه‌ای از سناریوهای دسترسی کنترل‌شده می‌توانند ارزشمند باشند». با این کار، ارائه مستمر این قابلیت‌ها را استثنا می‌کند برنامه های کاربردی طراحی شده برای افراد دارای معلولیتمانند دیدن هوش مصنوعی.

از سوی دیگر، مایکروسافت دسترسی به خدمات تشخیص چهره خود در Azure Face API، Computer Vision و Video Indexer را به کسانی که برای آنها درخواست خواهند داد محدود خواهد کرد. تحت خط مشی دسترسی محدود که مایکروسافت معرفی کرده است، مشتریان برای دسترسی به عملیات باید شرایط استفاده و شرایط صلاحیت مشتری را بگذرانند. مشتریان فعلی یک سال (تا 30 ژوئن 2023) فرصت خواهند داشت تا برای ادامه خدمات تشخیص چهره درخواست دهند و تأیید شوند. در همین حال، سایر قابلیت‌های تشخیص چهره که برای تشخیص تاری، نوردهی، عینک، حالت سر، نشانه‌ها، نویز، انسداد و جعبه محدود کردن صورت استفاده می‌شوند، بدون استفاده در دسترس خواهند بود. به گفته Bird، این فرآیند جدید به مایکروسافت کمک می‌کند تا «لایه دیگری از بررسی را به استفاده و به کارگیری تشخیص چهره اضافه کند تا اطمینان حاصل شود که استفاده از این سرویس‌ها با استاندارد هوش مصنوعی مسئول مایکروسافت مطابقت دارد و به سود کاربر نهایی و اجتماعی با ارزش کمک می‌کند. ”

در نهایت، ویژگی صدای عصبی سفارشی مایکروسافت نیز برای محافظت از آن در برابر سوء استفاده احتمالی با محدودیت هایی روبرو خواهد شد. ناتاشا کرامپتون، افسر ارشد هوش مصنوعی می‌نویسد: «بر اساس آنچه از صدای عصبی سفارشی یاد گرفتیم، کنترل‌های مشابهی را برای سرویس‌های تشخیص چهره خود اعمال خواهیم کرد.» پست های وبلاگ. پس از یک دوره انتقال برای مشتریان فعلی، ما دسترسی به این خدمات را به مشتریان و شرکای مدیریت شده محدود می کنیم، موارد استفاده را به موارد قابل قبول از پیش تعریف شده محدود می کنیم و از کنترل های فنی مهندسی شده در خدمات استفاده می کنیم.