蚂蚁集团推出中国首个大型模型安全解决方案AntGuard

　　天奇网 9 月 13 日消息，蚂蚁集团推出了“AntGuard”，这是解决与大型人工智能模型相关的安全问题的重大进展。该解决方案由两个主要部分组成:“AntScan 2.0”和“TianGuard”，旨在提高不同行业使用的大型人工智能模型的可信度和可靠性。

　　AntGuard:增强大型AI模型的安全性

　　AntGuard的主要目标是解决与有问题的训练数据、不可控的推理过程和外部恶意影响相关的安全问题。它关注三个基本领域:度量大型模型安全性、智能风险管理和清理数据相关问题。

　　AntScan 2.0作为大型模型的安全专家。在这些模型付诸行动之前，它会彻底检查它们，识别数据安全性、内容安全性和道德考虑等各个方面的漏洞。

　　另一方面，TianGuard就像一个大型模型的保护罩。它使用智能风险控制技术来保护模型免受有害的外部查询，并过滤掉这些模型产生的潜在风险响应。这种方法确保了整个过程(从用户输入到部署后的模型输出)的安全性。

　　此外，Ant Group和TianGuard致力于在培训和应用阶段维护模型安全性。他们通过实施诸如清理有问题的数据源、调整训练过程和开展研究以提高模型透明度等策略来实现这一目标。

　　AntScan 2.0和TianGuard现在都对公众开放，为大规模人工智能应用提供了强大的安全框架。

【免责声明】本文仅代表作者本人观点，与天奇网[www.tttianqi.com]无关。对文中陈述、观点判断保持中立，不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考，并请自行承担全部责任。

3、如因作品内容、版权和其它问题需要同本网联系，请在发布或转载时间之后的30日以内进行。