Microsoft đang vật lộn với Microsoft News AI mới của họ chọn những câu chuyện khiến họ bối rối

Chúng tôi đã báo cáo vào tháng XNUMX rằng Microsoft đã thay thế các biên tập viên con người của họ bằng một AI trong đó đã chọn các câu chuyện tin tức của họ, tổng hợp từ các ấn phẩm khác, và sau đó phân phối cho 500 triệu độc giả ở 140 quốc gia.

Microsoft News sau đó cho biết họ sử dụng AI để quét nội dung, hiểu “các thứ nguyên như độ mới, danh mục, loại chủ đề, nội dung quan điểm và mức độ phổ biến tiềm năng và sau đó trình bày nó cho các biên tập viên của chúng tôi. Các thuật toán của chúng tôi đề xuất những bức ảnh phù hợp để ghép nối với nội dung nhằm giúp làm cho câu chuyện trở nên sống động. Sau đó, các biên tập viên sắp xếp các tin bài hàng đầu trong ngày, về nhiều chủ đề khác nhau, để độc giả của chúng tôi nhận được tin tức mới nhất từ ​​các nguồn tốt nhất. ”

Giờ đây, Microsoft đang phải vật lộn với AI khiến họ lúng túng trên hai mặt trận.

Đầu tiên là khi AI xuất bản một câu chuyện về thành viên Jade Thirlwall của Little Mix đấu tranh với nạn phân biệt chủng tộc bằng cách sử dụng hình ảnh của đồng nghiệp Leigh-Anne Pinnock của cô ấy, với Thirlwall phàn nàn:

“Điều này xảy ra với @leighannepinnock và tôi luôn thấy rằng nó trở thành một trò đùa. Tôi xúc phạm rằng bạn không thể phân biệt hai phụ nữ da màu trong số bốn thành viên của một nhóm… HÃY LÀM TỐT HƠN! ”

Câu chuyện ban đầu đã có hình ảnh chính xác, làm cho việc thất bại càng thêm xấu hổ.

Để tăng thêm sự xúc phạm cho thương tích, giờ đây các biên tập viên MSN còn lại đang vật lộn với việc AI chọn và xuất bản lại các câu chuyện về việc MSN gây rối, với các biên tập viên con người được yêu cầu xóa câu chuyện nếu AI chọn nó, nhưng cũng có thể AI có thể làm quá chúng và tái xuất bản nó một lần nữa.

Một nhân viên cho biết Microsoft vô cùng lo ngại về tổn hại danh tiếng đối với sản phẩm AI của mình: "Với tất cả các cuộc biểu tình chống phân biệt chủng tộc vào lúc này, bây giờ không phải là lúc để mắc sai lầm."

Giám đốc điều hành Microsoft Satya Nadella luôn duy trì việc AI được sử dụng song song thay vì thay cho nhân viên, nhưng có vẻ như câu chuyện đã minh họa ai mới thực sự là người chịu trách nhiệm chính.

thông qua Người giám hộ