微軟承諾為 Copilot 提供更好的網路攻擊體驗

人工智慧（AI）是我們看到的最熱門的技術，它的快速進步有時會令人不安。有人說我們是 進展太快 對於人工智慧來說，雖然時間有限，但進展卻如此之大，而人工智慧很容易被濫用和存在漏洞。

微軟已經 最近概述 它透過產生人工智慧，特別是大型語言模型（LLM）來解決這些問題。由於 Windows 和行動裝置上的 Copilot 人工智慧助理工具，這家雷德蒙科技巨頭通常被認為是產生人工智慧市場的全球領導者。 

微軟表示，它透過微軟人工智慧的架構使用多層防禦來限制法學碩士能夠和將會做的事情。這些層旨在阻止對人工智慧系統的兩種主要類型的攻擊，無論是惡意提示還是有毒內容。 

Microsoft 開發了一種稱為 Spotlighting 的技術，可以標記外部資料以將其與合法指令區分開來。例如，一封不良電子郵件可能會誘騙人工智慧洩露用戶電子郵件中的敏感訊息，而該系統可以幫助人工智慧將其與真實命令區分開來，而不會減慢其速度。 

考慮到 Copilot 很快就會變成這樣，這非常有幫助 Outlook 中隨處可見，流行的電子郵件服務。微軟也意識到一種名為 Crescendo 的新型網路攻擊，它可以操縱 Copilot 等人工智慧系統來創建有害內容。 

微軟承諾：“就 Crescendo 而言，我們的團隊對微軟人工智慧產品背後的法學碩士技術進行了軟體更新，包括我們的 Copilot 人工智慧助手，以減輕這種多圈人工智慧護欄旁路的影響。” 

OpenAI，新興的人工智慧公司，擁有巨大的 經濟支持 來自微軟，還 有限 使用人工智慧進行政治競選，因為它試圖促進更健康、不濫用人工智慧。