Microsoft giới hạn quyền truy cập vào một số dịch vụ AI của mình

Trí tuệ nhân tạo nắm giữ tương lai của công nghệ, nhưng nếu đặt nhầm vào tay kẻ xấu, nó có thể gây ra rắc rối cho nhiều người. Đây là lý do tại sao Microsoft công bố một số thay đổi trong Tiêu chuẩn AI có trách nhiệm của mình, nơi họ đưa ra chính sách Truy cập có giới hạn mới. Trong một số bài đăng vào ngày 21 tháng XNUMX, công ty nói rằng họ sẽ xóa và giới hạn quyền truy cập vào một số dịch vụ của mình bằng cách sử dụng AI. Đặc biệt, những thay đổi về chính sách này sẽ ảnh hưởng đến dịch vụ nhận dạng khuôn mặt Azure Face và Giọng nói thần kinh tùy chỉnh của Microsoft.

Một trong những tính năng sẽ bị ảnh hưởng nhiều bởi sự thay đổi này là công nghệ phân tích khuôn mặt gây tranh cãi được thiết kế để suy ra trạng thái cảm xúc của một cá nhân và nhận ra các thuộc tính khác nhau của con người, chẳng hạn như giới tính, tuổi tác, nụ cười, khuôn mặt, tóc và trang điểm. Microsoft nói rằng động thái này được đưa ra sau một số lo ngại về quyền riêng tư và sự thiếu đồng thuận khoa học về định nghĩa của khái niệm “cảm xúc”. 

“Chúng tôi đã hợp tác với các nhà nghiên cứu bên trong và bên ngoài để hiểu những hạn chế và lợi ích tiềm năng của công nghệ này và điều hướng sự cân bằng,” Giám đốc sản phẩm chính của Azure AI Group Sarah Bird cho biết. “Trong trường hợp cụ thể là phân loại cảm xúc, những nỗ lực này đã đặt ra những câu hỏi quan trọng về quyền riêng tư, sự thiếu đồng thuận về định nghĩa“ cảm xúc ”và không có khả năng khái quát mối liên hệ giữa biểu hiện trên khuôn mặt và trạng thái cảm xúc trong các trường hợp sử dụng, khu vực và nhân khẩu học . Quyền truy cập API vào các khả năng dự đoán các thuộc tính nhạy cảm cũng mở ra nhiều cách chúng có thể bị lạm dụng — bao gồm cả việc buộc mọi người phải rập khuôn, phân biệt đối xử hoặc từ chối dịch vụ một cách không công bằng. ”

Như vậy, công ty công bố rằng nó đã làm cho khả năng phát hiện thuộc tính không khả dụng vào ngày 21 tháng 30 đối với khách hàng mới, trong khi tính năng này sẽ bị ngừng đối với khách hàng hiện tại vào ngày XNUMX cùng tháng. Tuy nhiên, Microsoft cho biết họ “nhận ra những khả năng này có thể có giá trị khi được sử dụng cho một tập hợp các tình huống trợ năng được kiểm soát.” Với điều này, việc liên tục cung cấp những khả năng này trong ứng dụng được thiết kế cho người khuyết tật, như Nhìn thấy AI.

Mặt khác, Microsoft sẽ giới hạn quyền truy cập vào các dịch vụ nhận dạng khuôn mặt của mình trong Azure Face API, Computer Vision và Video Indexer đối với những người sẽ đăng ký. Theo chính sách Truy cập có giới hạn mà Microsoft đã giới thiệu, khách hàng sẽ phải vượt qua các yêu cầu về tình trạng sử dụng và tính đủ điều kiện của khách hàng để có quyền truy cập vào các hoạt động. Khách hàng hiện tại sẽ có một năm (cho đến ngày 30 tháng 2023 năm XNUMX) để đăng ký và được chấp thuận tiếp tục sử dụng các dịch vụ nhận dạng khuôn mặt. Trong khi đó, các khả năng phát hiện khuôn mặt khác được sử dụng để phát hiện mờ, phơi sáng, đeo kính, tư thế đầu, điểm mốc, tiếng ồn, khớp và hộp giới hạn khuôn mặt sẽ vẫn khả dụng mà không cần ứng dụng. Theo Bird, quy trình mới này sẽ giúp Microsoft “thêm một lớp giám sát bổ sung đối với việc sử dụng và triển khai nhận dạng khuôn mặt để đảm bảo việc sử dụng các dịch vụ này phù hợp với Tiêu chuẩn AI có trách nhiệm của Microsoft và đóng góp vào lợi ích xã hội và người dùng cuối có giá trị cao. ”

Cuối cùng, tính năng Giọng nói thần kinh tùy chỉnh của Microsoft cũng sẽ phải đối mặt với một số hạn chế để bảo vệ nó khỏi bị lạm dụng có thể xảy ra. “Dựa trên những gì chúng tôi học được từ Giọng nói thần kinh tùy chỉnh, chúng tôi sẽ áp dụng các điều khiển tương tự cho các dịch vụ nhận dạng khuôn mặt của chúng tôi,” Giám đốc AI có trách nhiệm Natasha Crampton viết trong một trang riêng blog đăng bài. “Sau giai đoạn chuyển tiếp đối với các khách hàng hiện tại, chúng tôi đang hạn chế quyền truy cập vào các dịch vụ này đối với các khách hàng và đối tác được quản lý, thu hẹp các trường hợp sử dụng thành các trường hợp chấp nhận được xác định trước và tận dụng các biện pháp kiểm soát kỹ thuật được thiết kế vào dịch vụ.”