「不可接受」：Google執行長桑達爾·皮查伊談雙子座的「覺醒」與進攻性輸出

谷歌的人工智慧工具 Gemini 以生成圖像和文字而聞名，但因生成帶有偏見和攻擊性的內容而受到批評。在用戶報告以下問題後，該工具上週被暫停：

• 歷史描述不準確: 雙子座產生的圖像顯示，像維京人這樣的人物是有色人種，儘管他們的歷史背景不同。
• 令人反感的文字提示: 對戀童癖的立場細緻入微，強調這是一個複雜的問題，而不僅僅是「嚴重」。

這些問題引發了公眾批評，有些人指責谷歌存在反白人偏見。對此，Google執行長桑達爾·皮查伊承認了這些問題，並稱這些問題「完全不可接受」。他強調Google致力於提供公正的資訊並打造值得用戶信任的產品。

皮查伊概述了解決這些問題的計劃，包括：

• 實施更嚴格的控制，防止產出出現偏差。
• 修訂產品指南以確保負責任的人工智慧開發。
• 在公開發布之前實施更嚴格的測試和評估人工智慧工具的程序。
• 進行徹底的評估和紅隊演習，以識別和解決潛在問題。

在承認挑戰的同時，皮查伊強調Google將繼續致力於負責任地推動人工智慧發展。他強調了從錯誤中學習並建立贏得用戶信任的有用產品的重要性。

皮查伊給Google員工的完整說明，先報道 旗語， 在下面。

我想解決 Gemini 應用程式（以前稱為 Bard）中最近出現的有問題的文字和圖像回應問題。我知道它的一些回應冒犯了我們的用戶並表現出偏見——需要明確的是，這是完全不可接受的，我們錯了。

我們的團隊一直在日以繼夜地工作來解決這些問題。我們已經看到各種提示的顯著改進。沒有哪個人工智慧是完美的，尤其是在產業發展的新興階段，但我們知道我們的門檻很高，無論需要多久，我們都會堅持下去。我們將回顧發生的事情並確保我們大規模修復它。

我們組織全球資訊並使其人人都能存取和使用的使命是神聖不可侵犯的。我們始終致力於在我們的產品中為使用者提供有用、準確且公正的資訊。這就是為什麼人們信任他們。這必須成為我們所有產品的方法，包括我們新興的人工智慧產品。

我們將推動一系列明確的行動，包括結構變化、更新的產品指南、改進的發布流程、強有力的評估和紅隊以及技術建議。我們正在審視所有這些，並將做出必要的改變。

即使我們從這裡的錯誤中吸取了教訓，我們也應該以過去幾週在人工智慧領域發布的產品和技術公告為基礎。這包括我們的底層模型的一些基礎進展，例如我們的 1 萬長上下文視窗突破和我們的開放模型，這兩者都受到了好評。

我們知道如何創造出被數十億人和企業使用和喜愛的偉大產品，並且憑藉我們的基礎設施和研究專業知識，我們為人工智慧浪潮提供了令人難以置信的跳板。讓我們專注於最重要的事情：建立值得用戶信任的有用產品。

同時，專家認為爭議源自於技術缺陷，而不是故意的偏見。他們認為問題在於控制人工智慧輸出的軟體“護欄”，而不是底層模型本身。