新闻中心
新闻中心
Meta推出Purple Llama AI检测套件：全方位保证AI安全布置
发布时间：2024-02-19 来源: 新闻中心
在Meta官方新闻稿中，昨日宣告了一项严重行动，推出了Purple Llama AI检测套件，这一套件旨在为开发者供给一系列东西，以保证他们的AI模型在布置时安全可靠，并秉持“负责任地布置生成式AI模型与应用程序”的许诺。
Purple Llama套件现在包括“CyberSec Eval”评价东西和“Llama Guard”输入输出安全分类器，而Meta公司许诺未来将持续增加更多东西以全方面提高套件的功用。
Meta介绍称，Purple Llama套件不只适用于标准自家Llama言语模型，一起也可以适用于其他公司的AI模型。其套件称号的创意源于安全范畴的“紫队概念”。
在安全范畴，“紫队”代表了进犯红队和防护蓝队的结合，而Purple Llama套件的任务则在于一起评价和缓解AI模型的潜在要挟，统筹进犯和防护战略。
Purple Llama套件现在可以量化大型模型在网络安全危险方面的目标，评价有几率存在的代码缝隙，并供给模型安全性的深度见地。此外，该套件还可以查看并过滤模型的输入和输出内容，有很大作用防备黑客对相关模型的越狱行为。
Meta公司表明，他们将一直在改善Purple Llama套件，并方案与微软、AMD、亚马逊、谷歌、英特尔、英伟达等公司协作，以将Purple Llama评价套件整合到业界模型评价基准中，推进整个职业的安全开展。
新闻资讯
-
2024-02-19
超万亿市场将被激活！交通运输部发布无人驾驶相关指南 车路两端产业链将受益行业动态
-
2024-02-19
深圳政府在线_深圳市人民政府门户网站
-
2024-02-19
励图高科：智慧渔港渔船动态监管平台为渔港行业安全护航！
-
2024-02-19
行业动态丨我国全面完成陆海生态分区
