AI 和 Deepfakes 对现实和未来的影响

与 ExpressVPN 合作

人工智能的最新进展正在显着改变现代人的生活。 今天，我们可以看到人工智能如何在几秒钟内毫不费力地执行编码、论文写作，以及最重要的内容生成。 然而，这些同样令人印象深刻的能力是人工智能自身的诅咒。 根据 VPN提供商, 许多人正在使用 AI 生成合成媒体来传播错误信息，而 deepfakes 现在开始像野火一样在全球蔓延。

几十年来，专家们一直在试验人工智能，但微软最近大力推动这项技术，激发了业界对此类创新进行更多投资的兴趣。 在其揭幕之后 ChatGPT 驱动的 Bing 搜索引擎，谷歌反击使用 诗人. 然而，与其竞争对手不同，谷歌仍在对 Bard 测试访问实施严格限制，专家推测这是因为该公司担心 AI 在坏人手中会做什么。

其他正在开发的人工智能技术产品也是如此。 例如，目前尚未公开的微软VALL-E语言模型可以模仿人的声音和情绪合成个性化的语音。 它只需要三秒钟的录音作为声音提示，但可以使用原始说话者的声音产生不同的信息。

虽然普通大众仍然无法访问上述创作，但他们已经拥有小型科技公司提供的对应作品。 这不仅允许普通用户，而且允许恶意行为者以他们想要的任何方式使用这些工具。 有了这个，最近出现了关于人们在人工智能的帮助下被愚弄和诈骗的不同报道也就不足为奇了。

这些报告特别强调了使用人工智能生成的模仿受害者的声音。 在与分享的故事中 商业内幕 据报道，本月一位母亲接到自称是绑架者的电话，要求为她 50,000 岁的女儿支付 15 美元的赎金。 在描述接到的电话时，这位母亲说“100%”是她女儿的声音。

“完全是她的声音。 这是她的转折。 这是她哭的方式。 我一秒钟都没有怀疑是她，”这位母亲说，后来她发现这个电话是骗局，她的女儿实际上和他的丈夫在一起。

一对来自加拿大的夫妇也经历了同样涉及 AI 语音的事件，他们不幸在电话中被骗子损失了 21,000 美元。 根据 “华盛顿邮报”，骗子假扮律师和这对夫妇的儿子，用人工智能生成的声音声称儿子在车祸中杀死了一名外交官后，表示这笔钱将用于支付律师费。

除了声音之外，其他形式的 AI 生成的生成媒体也可以欺骗任何人——例如，假图像和 deepfake 视频。 虽然目前没有报告显示诈骗者利用它们谋取经济利益，但它们对公众的影响可能是广泛的。 最近，一些人工智能生成的名人形象在网络上流传。 其中包括教皇弗朗西斯身着时尚羽绒服的照片、前总统唐纳德特朗普被捕，以及埃隆马斯克在约会期间牵着他的竞争对手和通用汽车首席执行官玛丽巴拉的手。 与此同时，2022 年 XNUMX 月，乌克兰总统沃洛德米尔·泽伦斯基 (Volodymyr Zelensky) 的一段深度伪造视频浮出水面，要求乌克兰公民向俄罗斯投降。

尽管这些材料很快被确认为假的，但不可否认的是，它们的存在愚弄了公众，并给许多人造成了暂时的困惑。 甚至模特和作者 克莉丝汀·泰根 成为教皇照片的牺牲品。 然而，随着人工智能的不断发展，这种合成媒体的影响可能会更加严重，尤其是在这个时代，越来越多的科技公司花费数十亿美元来打造完美的人工智能创作。 到那个时候，可以利用人工智能来扭曲众所周知的现实，这并非不可能。 更重要的是，它甚至可以用来控制和影响公众，从而在全球范围内引发不同的政治、社会和道德问题。

这在 2018 年中期选举期间显示巴拉克奥巴马诽谤唐纳德特朗普的 deepfake 视频中很明显。 内容原本是为了警示网络世界网络假新闻的危害，却逆势反弹。 这引起了几位特朗普支持者的愤怒，并无意中损害了材料中使用的个人形象。

现在，想象一下如果这种生成媒体专门设计用于 影响和操纵舆论 并向公众宣传。 结果可能会很激烈。 在媒体和信息受到限制性政府审查的国家尤其如此，例如白俄罗斯、中国、埃及、俄罗斯、伊朗、朝鲜、土库曼斯坦、阿联酋、乌干达、伊拉克、土耳其、阿曼和其他以伊斯兰教为主的国家. 有些人诉诸于使用 VPN 来访问地理锁定的内容、网站和服务以保持更新。 然而，在这些地方，VPN 访问并非完全可行，因为它们有互联网审查规避，甚至封锁了与 VPN 服务相关的网站。 有了这个，你可以想象这些地区的未来，这些地区对国际新闻的访问受限，他们的政府有权决定允许哪些在线内容。 然后，加上未来更完美的内容生成人工智能的可能性，公众应该会发现更难辨别真假。

行业团体和 AI 技术公司已经着手制定指导 AI 工具使用的政策。 例如，人工智能伙伴关系为构建合成媒体工具的机构和个人或仅为分发此类材料的机构和个人提供建议。 然而，私营公司和非营利组织并不是这里唯一需要的。 立法者还必须制定一套具体的规则，强制 AI 构建者和最终用户遵守这些规则。 尽管如此，这些未来的法律是否足够有效以利用人工智能的力量并阻止人们利用它？ 我们应该很快就会看到这一点。