Meta 推出 Purple Llama； 用于负责任地部署人工智能的开放信任和安全工具

Meta AI 宣布推出 Purple Llama，这是一项促进负责任地开发和使用生成式人工智能模型的倡议。 该项目解决了开源人工智能模型日益流行的问题，下载量超过 100 亿次 骆驼 单独模型。

Purple Llama 从“紫色团队”的网络安全概念中汲取灵感，将进攻性和防御性方法结合起来以降低风险。 它为两个关键领域提供工具和评估： 网络安全和输入/输出保障.

当谈到LLM时 网络安全 风险，重要的是要有一种方法来量化某人入侵人工智能模型的风险。 指标可以通过提供表明成功黑客攻击可能性的分数来帮助解决这一问题。 此外，开发人员可以使用工具来评估不安全代码建议的频率。 这可以帮助识别和修复黑客可能利用的人工智能模型中的问题。

有工具可以防止人工智能模型被恶意使用。 这些工具可以帮助防止黑客窃取或使用数据传播假新闻。 组织可以实施这些工具来保护其人工智能模型并防止它们被用于邪恶目的。

其次， 什么是输入/输出保障措施？

输入/输出 (I/O) 保护措施是为了保护数据在进入和退出系统时免遭未经授权的访问、操纵或泄露而实施的安全措施。

Purple Llama 目前正在做一些事情。 其中之一是 Llama Guard，它是一款开源工具，旨在帮助开发人员识别并避免创建有害内容。 此外，他们还创建了内容过滤指南，开发人员可以遵循这些指南，以确保他们的人工智能模型不会生成有害内容。

元有 发现 他们致力于建立一个开放的人工智能开发生态系统，这意味着他们希望让任何人都能轻松开发和使用人工智能模型。 他们正在与多个合作伙伴合作开展该项目，包括 AI Alliance、AMD、Google Cloud、 Hugging Face（最近曝光的Meta AI代币）、IBM、微软和 NVIDIA。