"Không thể chấp nhận được": Giám đốc điều hành Google Sundar Pichai về những kết quả đầu ra 'đánh thức' và gây khó chịu của Gemini

Công cụ AI của Google Gemini, được biết đến với việc tạo ra hình ảnh và văn bản, đã bị chỉ trích vì tạo ra nội dung thiên vị và phản cảm. Công cụ này đã bị đình chỉ vào tuần trước sau khi người dùng báo cáo các vấn đề như:

• Miêu tả lịch sử không chính xác: Các hình ảnh do Gemini tạo ra cho thấy những nhân vật như người Viking là người da màu bất chấp bối cảnh lịch sử của họ.
• Lời nhắc bằng văn bản mang tính xúc phạm: Quan điểm đa dạng về vấn đề ấu dâm, nhấn mạnh đây là một vấn đề phức tạp chứ không chỉ đơn giản là “thô thiển”.

Những vấn đề này đã làm dấy lên sự chỉ trích của công chúng, trong đó một số cáo buộc Google có thành kiến ​​​​chống người da trắng. Đáp lại, Giám đốc điều hành Google Sundar Pichai thừa nhận các vấn đề và gọi chúng là “hoàn toàn không thể chấp nhận được”. Ông nhấn mạnh cam kết của Google trong việc cung cấp thông tin khách quan và xây dựng những sản phẩm xứng đáng với sự tin tưởng của người dùng.

Pichai vạch ra một kế hoạch để giải quyết các mối lo ngại, bao gồm:

• Thực hiện các biện pháp kiểm soát chặt chẽ hơn để ngăn chặn kết quả đầu ra sai lệch.
• Sửa đổi hướng dẫn sản phẩm để đảm bảo phát triển AI có trách nhiệm.
• Thực hiện các quy trình chặt chẽ hơn để thử nghiệm và đánh giá các công cụ AI trước khi phát hành ra công chúng.
• Tiến hành đánh giá kỹ lưỡng và thực hiện các bài tập về nhóm đỏ để xác định và giải quyết các vấn đề tiềm ẩn.

Trong khi thừa nhận những thách thức, Pichai nhấn mạnh cam kết tiếp tục của Google trong việc phát triển AI một cách có trách nhiệm. Ông nhấn mạnh tầm quan trọng của việc học hỏi từ những sai lầm và xây dựng các sản phẩm hữu ích để giành được sự tin tưởng của người dùng.

Ghi chú đầy đủ của Pichai gửi nhân viên Google, được báo cáo đầu tiên bởi đèn giao thông, là bên dưới.

Tôi muốn giải quyết các vấn đề gần đây liên quan đến phản hồi bằng văn bản và hình ảnh có vấn đề trong ứng dụng Gemini (trước đây là Bard). Tôi biết rằng một số phản hồi của nó đã xúc phạm người dùng của chúng tôi và thể hiện sự thiên vị – rõ ràng là điều đó hoàn toàn không thể chấp nhận được và chúng tôi đã sai.

Nhóm của chúng tôi đã làm việc suốt ngày đêm để giải quyết những vấn đề này. Chúng tôi đã nhận thấy sự cải thiện đáng kể về nhiều lời nhắc. Không có AI nào là hoàn hảo, đặc biệt là ở giai đoạn phát triển mới nổi này của ngành, nhưng chúng tôi biết tiêu chuẩn này rất cao đối với chúng tôi và chúng tôi sẽ duy trì tiêu chuẩn đó trong thời gian dài. Và chúng tôi sẽ xem xét những gì đã xảy ra và đảm bảo rằng chúng tôi sẽ khắc phục nó trên quy mô lớn.

Sứ mệnh của chúng tôi là tổ chức thông tin của thế giới và làm cho thông tin đó trở nên hữu ích và có thể truy cập trên toàn cầu là bất khả xâm phạm. Chúng tôi luôn tìm cách cung cấp cho người dùng thông tin hữu ích, chính xác và khách quan về các sản phẩm của mình. Đó là lý do tại sao mọi người tin tưởng họ. Đây phải là cách tiếp cận của chúng tôi đối với tất cả các sản phẩm của mình, bao gồm cả các sản phẩm AI mới nổi của chúng tôi.

Chúng tôi sẽ thúc đẩy một loạt hành động rõ ràng, bao gồm các thay đổi về cấu trúc, nguyên tắc sản phẩm được cập nhật, quy trình ra mắt được cải thiện, đánh giá mạnh mẽ và hợp tác đỏ cũng như các đề xuất kỹ thuật. Chúng tôi đang xem xét tất cả những điều này và sẽ thực hiện những thay đổi cần thiết.

Ngay cả khi rút kinh nghiệm từ những sai sót ở đây, chúng ta cũng nên xây dựng dựa trên các thông báo về sản phẩm và kỹ thuật mà chúng ta đã đưa ra về AI trong vài tuần qua. Điều đó bao gồm một số tiến bộ cơ bản trong các mô hình cơ bản của chúng tôi, ví dụ như bước đột phá về cửa sổ ngữ cảnh dài 1 triệu và các mô hình mở của chúng tôi, cả hai đều đã được đón nhận nồng nhiệt.

Chúng tôi biết cần những gì để tạo ra những sản phẩm tuyệt vời được hàng tỷ người và doanh nghiệp sử dụng và yêu thích, đồng thời với cơ sở hạ tầng và chuyên môn nghiên cứu của mình, chúng tôi có một bàn đạp đáng kinh ngạc cho làn sóng AI. Hãy tập trung vào điều quan trọng nhất: xây dựng những sản phẩm hữu ích xứng đáng với sự tin tưởng của người dùng.

Trong khi đó, các chuyên gia cho rằng tranh cãi bắt nguồn từ những thiếu sót về mặt kỹ thuật chứ không phải do cố ý thiên vị. Họ cho rằng vấn đề nằm ở “hàng rào bảo vệ” phần mềm kiểm soát đầu ra của AI chứ không phải ở bản thân mô hình cơ bản.