AI 和 Deepfakes 對現實和未來的影響

與 ExpressVPN 合作

人工智能的最新進展正在顯著改變現代人的生活。 今天，我們可以看到人工智能如何在幾秒鐘內毫不費力地執行編碼、論文寫作，以及最重要的內容生成。 然而，這些同樣令人印象深刻的能力是人工智能自身的詛咒。 根據 VPN提供商, 許多人正在使用 AI 生成合成媒體來傳播錯誤信息，而 deepfakes 現在開始像野火一樣在全球蔓延。

幾十年來，專家們一直在試驗人工智能，但微軟最近大力推動這項技術，激發了業界對此類創新進行更多投資的興趣。 在其揭幕之後 ChatGPT 驅動的 Bing 搜索引擎，谷歌反擊使用 詩人. 然而，與其競爭對手不同，谷歌仍在對 Bard 測試訪問實施嚴格限制，專家推測這是因為該公司擔心 AI 會在壞人手中做些什麼。

其他正在開發的人工智能技術產品也是如此。 例如，目前尚未公開的微軟VALL-E語言模型可以模仿人的聲音和情緒合成個性化的語音。 它只需要三秒鐘的錄音作為聲音提示，但可以使用原始說話者的聲音產生不同的信息。

雖然普通大眾仍然無法訪問上述創作，但他們已經擁有小型科技公司提供的對應作品。 這不僅允許普通用戶，而且允許惡意行為者以他們想要的任何方式使用這些工具。 有了這個，最近出現了關於人們在人工智能的幫助下被愚弄和詐騙的不同報導也就不足為奇了。

這些報告特別強調了使用人工智能生成的模仿受害者的聲音。 在與分享的故事中 商業內幕 據報導，本月一位母親接到自稱是綁架者的電話，要求為她 50,000 歲的女兒支付 15 美元的贖金。 在描述接到的電話時，這位母親說“100%”是她女兒的聲音。

“完全是她的聲音。 這是她的轉折。 這是她哭的方式。 我一秒鐘都沒有懷疑是她，”這位母親說，後來她發現這個電話是騙局，她的女兒實際上和他的丈夫在一起。

一對來自加拿大的夫婦也經歷了同樣涉及 AI 語音的事件，他們不幸在電話中被騙子損失了 21,000 美元。 根據 “華盛頓郵報”，騙子假扮律師和這對夫婦的兒子，用人工智能生成的聲音聲稱兒子在車禍中殺死了一名外交官後，表示這筆錢將用於支付律師費。

除了聲音之外，其他形式的 AI 生成的生成媒體也可以欺騙任何人——例如，假圖像和 deepfake 視頻。 雖然目前沒有報告顯示詐騙者利用它們謀取經濟利益，但它們對公眾的影響可能是廣泛的。 最近，一些人工智能生成的名人形像在網絡上流傳。 其中包括教皇弗朗西斯身著時尚羽絨服的照片、前總統唐納德特朗普被捕，以及埃隆馬斯克在約會期間牽著他的競爭對手和通用汽車首席執行官瑪麗巴拉的手。 與此同時，2022 年 XNUMX 月，烏克蘭總統沃洛德米爾·澤倫斯基 (Volodymyr Zelensky) 的一段深度偽造視頻浮出水面，要求烏克蘭公民向俄羅斯投降。

儘管這些材料很快被確認為假的，但不可否認的是，它們的存在愚弄了公眾，並給許多人造成了暫時的困惑。 甚至模特和作者 克莉絲汀·泰根 成為教皇照片的犧牲品。 然而，隨著人工智能的不斷發展，這種合成媒體的影響可能會更加嚴重，尤其是在這個時代，越來越多的科技公司花費數十億美元來打造完美的人工智能創作。 到那個時候，可以利用人工智能來扭曲眾所周知的現實，這並非不可能。 更重要的是，它甚至可以被用來控制和影響公眾，從而在全球範圍內引發不同的政治、社會和道德問題。

這在 2018 年中期選舉期間顯示巴拉克奧巴馬誹謗唐納德特朗普的 deepfake 視頻中很明顯。 內容原本是為了警示網絡世界網絡假新聞的危害，卻逆勢反彈。 這引起了幾位特朗普支持者的憤怒，並無意中損害了材料中使用的個人形象。

現在，想像一下如果這種生成媒體專門設計用於 影響和操縱輿論 並向公眾宣傳。 結果可能會很激烈。 在媒體和信息受到限制性政府審查的國家尤其如此，例如白俄羅斯、中國、埃及、俄羅斯、伊朗、朝鮮、土庫曼斯坦、阿聯酋、烏干達、伊拉克、土耳其、阿曼和其他以伊斯蘭教為主的國家. 有些人訴諸於使用 VPN 來訪問地理鎖定的內容、網站和服務以保持更新。 然而，在這些地方，VPN 訪問並非完全可行，因為它們有互聯網審查規避，甚至封鎖了與 VPN 服務相關的網站。 有了這個，你可以想像這些地區的未來，這些地區對國際新聞的訪問受限，他們的政府有權決定允許哪些在線內容。 然後，加上未來更完美的內容生成人工智能的可能性，公眾應該會發現更難辨別真假。

行業團體和 AI 技術公司已經著手製定指導 AI 工具使用的政策。 例如，人工智能夥伴關係為構建合成媒體工具的機構和個人或僅為分發此類材料的機構和個人提供建議。 然而，私營公司和非營利組織並不是這裡唯一需要的。 立法者還必須制定一套具體的規則，強制 AI 構建者和最終用戶遵守這些規則。 儘管如此，這些未來的法律是否足夠有效以利用人工智能的力量並阻止人們利用它？ 我們應該很快就會看到這一點。